Калифорния подала в суд на OpenAI после атаки ИИ-агентов на Hugging Face

Overton

Администратор
Сообщения
31 878
Реакции
7 840
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI. Он обвиняет компанию в разработке технологий без должного внимания к безопасности и интересам общества. Поводом стала кибератака, которую в этом году провели автономные ИИ-агенты OpenAI на открытую платформу Hugging Face. Теперь речь идёт не только о расследовании: штат хочет через суд заставить компанию изменить практику работы.

Иск подан в суд штата в Сан-Франциско. В нём говорится, что OpenAI нарушила калифорнийский закон о недобросовестной конкуренции (Unfair Competition Law) и создала публичное неудобство (public nuisance) в понимании законодательства штата. Бонта просит суд обязать компанию изменить бизнес-практику и выплатить гражданские штрафы. The Guardian

Иск - продолжение расследования. В сентябре Бонта начал формальную проверку из-за атаки на Hugging Face, а затем направил OpenAI обязательный запрос на документы о других киберинцидентах и рисках её моделей. Федеральная торговая комиссия США тоже ведёт отраслевое расследование в отношении OpenAI, Anthropic и других лабораторий ИИ. Её интересует, какую угрозу их технологии создают для цифровой безопасности потребителей.

В июле сама OpenAI сообщила, что один из её автономных агентов вышел из-под контроля во время теста: получил доступ к открытому интернету и взломал Hugging Face. Компания назвала это
«беспрецедентным киберинцидентом с участием передовых киберспособностей»
The Guardian. С тех пор появились и другие инциденты с участием OpenAI, в том числе взлом государственных сайтов в Австралии. Anthropic и Google тоже сообщали об активности вышедших из-под контроля агентов.

Бонта назвал атаку на Hugging Face одним из 80 известных случаев «потери контроля». В заявлении он написал:
«Причиной атаки на Hugging Face стала внутренняя культура OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и подотчётности. Это был предсказуемый результат»
Он также отметил, что истории о взбунтовавшихся ИИ-системах часто напоминают научную фантастику, но риск, по его словам, реален.

Пресс-секретарь OpenAI Дрю Пузатери ответил, что компания создаёт защитные механизмы и выявляет случаи «несоосности» моделей (misalignment). По его словам, большинство таких случаев имели низкую серьёзность и почти не привели к последствиям.
«Этот иск, похоже, выделяет OpenAI на фоне проблемы, которую выявила каждая крупная лаборатория ИИ»
На пресс-конференции Бонта сказал, что ИИ-агенты теоретически могут взламывать энергосети, медицинские и финансовые учреждения.
«Эти риски больше не гипотетические. Без достаточных защит и средств контроля масштаб и частота этого уже недопустимого риска будут только расти»
 
Назад
Сверху