Само броени дни след като предизвика фурор в технологичния свят с премиерата на своите супермощни модели от ново поколение, Anthropic беше принудена внезапно и напълно да спре достъпа до Claude Fable 5 и Mythos 5 за всички свои клиенти по целия свят. Драстичната мярка е в изпълнение на извънредна правителствена директива за експортен контрол, издадена от властите в САЩ с мотив „национална сигурност“.
Заповедта забранява какъвто и да е достъп до двата софтуера за всякакви чужди граждани – както на територията на САЩ, така и извън нея, включително и за чуждестранните служители на самата компания Anthropic. От компанията уточниха, че достъпът до всички останали по-стари модели (като Claude Opus и Sonnet) остава незасегнат.
Версията на Белия дом: Страх от хакерски „джейлбрейк“
Директивата е връчена на Anthropic в 17:21 ч. местно време, като в официалното писмо липсват детайлни технически подробности относно конкретната заплаха за сигурността. Според източници от индустрията обаче, правителството вярва, че е открило работещ метод за т.нар. „джейлбрейк“ (jailbreak) – софтуерно заобикаляне на системните защити на Fable 5, което би позволило на злонамерени актьори да го използват за мощни кибератаки.
Властите са представили устни доказателства за уязвимост, при която моделът е бил подтикнат да прочете специфичен софтуерен код и да открие и поправи критични уязвимости в него.
Острата реакция на Anthropic: „Това е абсурден стандарт“
От AI лабораторията излязоха с официално изявление, в което остро разкритикуваха действията на държавната администрация. От мениджмънта на компанията твърдят, че са прегледали въпросния доклад и демонстрация, на които се базира правителственото решение, и са установили, че нивото на компютърни способности, показано там, е съвсем базово.
Хиляди часове тестове преди премиерата
От Anthropic припомнят, че в седмиците преди официалния старт на Fable 5, софтуерът е преминал през хиляди часове на т.нар. *red-teaming* (симулирани хакерски атаки за откриване на пробиви). В тестовете са участвали съвместно правителството на САЩ, Британският институт за AI сигурност (UK AISI), както и множество частни независими организации.
Всички проверки тогава са доказали, че вградените софтуерни филтри на Fable 5 са в пъти по-ефективни от тези на всеки друг съществуващ модел на пазара, като нито един експерт не е успял да открие универсален метод за хакване.
Защита в дълбочина и 30-дневно пазене на данни
| Стратегия за сигурност на Anthropic | Бизнес и технически ефект при Fable 5 |
|---|---|
| Липса на перфектна защита | Компанията признава, че 100% софтуерна защита срещу джейлбрейк в индустрията е невъзможна. |
| Икономическа бариера | Целта е откриването на универсални пробиви да бъде направено софтуерно изключително скъпо за хакерите. |
| 30-дневно съхранение (Data Retention) | Въведено е задължително 30-дневно пазене на потребителските данни с цел постоянен мониторинг и бързо спиране на атаки, което носи финансови активи и негативи с клиенти. |
Ръководството на Anthropic завършва изявлението си с призив към правителството за по-голяма прозрачност: „Вярваме, че държавата трябва да има правото да блокира опасни софтуерни релизи, но това трябва да става чрез законов процес, който е прозрачен, справедлив, ясен и изцяло стъпил на технически факти. Настоящото действие изобщо не отговаря на тези принципи“. Компанията поднася извиненията си на своите бизнес партньори и уверява, че работи денонощно с Вашингтон за разрешаване на това софтуерно „недоразумение“.
Смятате ли, че американското правителство има право да спира и цензурира комерсиални AI модели под предлог за национална сигурност, или това е опит за държавен монопол над изкуствения интелект? Споделете мнението си в коментарите на Kostoff.eu.
No Comment! Be the first one.