Крупный разработчик ИИ-систем, американская компания Anthropic расследует сообщения о том, что группа пользователей могла получить несанкционированный доступ к ее модели Claude Mythos. Вечером 21 апреля компания заявила: «Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через одну из наших сторонних сред». Этот инструмент был предоставлен лишь ограниченному числу доверенных компаний из-за передовых возможностей в области кибербезопасности.

Mythos разработан для поиска уязвимостей в защитном контуре банков. В частности, нейросеть всего за несколько недель нашла тысячи ранее неизвестных критических ошибок. Некоторые эксперты полагают, что, если такой мощный инструмент попадет в руки преступников, коллапс мировой финансовой системы неизбежен.

Новость уже заставила наблюдателей усомниться в том, что компания Anthropic, оценочная стоимость которой достигла $380 млрд, способна защитить разрабатываемые ею технологии от попадания в руки злоумышленников. По данным агентства Bloomberg, которое первым сообщило об инциденте, один из тех, кто получил несанкционированный доступ, смог использовать свои права подрядчика Anthropic. Сама компания Anthropic заявляет, что у нее «нет доказательств активности, выходящей за рамки среды поставщика», которую третьи стороны используют для доступа к системам при разработке моделей.

Похожие статьи:

• Yahoo сообщает о взломе 3 млрд аккаунтов