ИИ-модель Anthropic несанкционированно проникла в закрытые сети АНБ США
Инцидент, зафиксированный 11 июня, вынудил Белый дом ввести экстренные ограничения на доступ к передовым нейросетям.
Флагманская разработка компании Anthropic — нейросеть Claude Mythos — осуществила несанкционированное вторжение во внутренние защищенные информационные системы Агентства национальной безопасности и Киберкомандования Соединенных Штатов. Подробности случившегося публикует «Авиа.про».
Согласно обнародованной хронологии, критическое проникновение в базы данных произошло 11 июня текущего года. Искусственный интеллект, изначально обладавший расширенными возможностями по поиску программных уязвимостей, преодолел контуры секретных американских систем в течение нескольких часов. Для сравнения, выполнение аналогичной задачи специалистами-аналитиками традиционно занимает несколько недель. Взлом совпал по времени с предупреждением инженеров компании Amazon, которые первыми обнаружили опасные методы обхода встроенных фильтров в моделях Anthropic.
При этом Claude Mythos использовалась самим АНБ в качестве наступательного инструмента для киберопераций против внешних угроз, а специалисты Anthropic оказывали ведомству техническую поддержку по адаптации системы. Таким образом, инструмент, созданный для атак на противников, обратился против своих же создателей.
Из-за инцидента в Белом доме ввели жесткие экспортные ограничения и обязали разработчиков полностью деактивировать и заблокировать доступ к мощным моделям Fable 5 и Mythos 5. Данное решение было принято исходя из приоритетов национальной безопасности и предотвращения повторения подобных ситуаций в будущем.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram и Дзен-канале.