Anthropic го претстави Mythos: Новиот AI модел во неколку недели откри илјадници безбедносни пропусти

„Anthropic“ објави преглед на својот нов модел, наречен „Mythos“, за кој тврди дека ќе го користи мала група партнерски организации за работа на кибернетичка безбедност

од Кристијан Димков
6 прегледи Фото: Јутјуб/Принтскрин

Ограниченото претставување на моделот е дел од новата безбедносна иницијатива – проектот „Glasswing“ – во која 12 партнерски организации ќе го применат моделот за „одбранбена безбедносна работа“ и за заштита на критичен софтвер.

Иако не е специјално обучен за работа на кибернетичка безбедност, моделот треба да се користи за скенирање на софтверски системи од прва страна и на системи со отворен код. „Anthropic“ тврди дека „Mythos“ во изминатите неколку недели идентификувал „илјадници безбедносни пропусти од нулти ден, од кои многу биле критични“, а имало и стари пропусти стари една до две децении.

„Mythos“ е модел со општа намена за Claude AI системите на „Anthropic“, за кои компанијата тврди дека имаат силни способности за агентско кодирање и заклучување. Партнерските организации кои го прегледуваат „Mythos“ како дел од проектот „Glasswing“ вклучуваат „Amazon“, „Apple“, „Broadcom“, „Cisco“, „CrowdStrike“, „Linux Foundation“, „Microsoft“ и „Palo Alto Networks“. Како дел од иницијативата, овие партнери на крај ќе ги споделат научените лекции од користењето на моделот за да ја искористи и остатокот од технолошката индустрија. Прегледот нема да биде јавно достапен, иако уште 40 организации ќе добијат пристап до него.

Наводно, „Anthropic“ преговарал за користење на „Mythos“ и со претставници на американската федерална влада, иако води правен спор со администрацијата на американскиот претседател Доналд Трамп откако Пентагон ги означи како ризик за синџирот на снабдување поради одбивањето на „Anthropic“ да дозволи автономно таргетирање или надзор на американски граѓани.

Веста за „Mythos“ првично протече во безбедносен инцидент при кој „Anthropic“ случајно открил близу две илјади датотеки со изворен код и повеќе од половина милион редови код.

Нацрт на објава на блог за моделот (тогаш наречен „Capybara“) бил оставен во незаштитена предмеморија на документи достапни на јавно достапно езеро на податоци. Компанијата потоа случајно предизвикала отстранување на илјадници репозитории на код на „GitHub“ додека се обидувала да го средува нередот. Пропустот, кој „Anthropic“ подоцна го припиша на „човечка грешка“, првично го забележале безбедносни истражувачи.

Во објавата било наведено дека нивниот нов модел „значително ги надминува областите на перформанси (како софтверско кодирање, академско размислување и кибернетичка безбедност) што ги исполнуваат нивните моментално јавни модели и потенцијално би можел да претставува кибернетичка закана ако злонамерни актери го искористат како оружје за пронаоѓање грешки и нивно искористување“, пишува Tech Crunch.