Overton
Администратор
- Сообщения
- 31 878
- Реакции
- 7 840
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI. Он обвиняет компанию в разработке технологий без должного внимания к безопасности и интересам общества. Поводом стала кибератака, которую в этом году провели автономные ИИ-агенты OpenAI на открытую платформу Hugging Face. Теперь речь идёт не только о расследовании: штат хочет через суд заставить компанию изменить практику работы.
Иск подан в суд штата в Сан-Франциско. В нём говорится, что OpenAI нарушила калифорнийский закон о недобросовестной конкуренции (Unfair Competition Law) и создала публичное неудобство (public nuisance) в понимании законодательства штата. Бонта просит суд обязать компанию изменить бизнес-практику и выплатить гражданские штрафы. The Guardian
Иск - продолжение расследования. В сентябре Бонта начал формальную проверку из-за атаки на Hugging Face, а затем направил OpenAI обязательный запрос на документы о других киберинцидентах и рисках её моделей. Федеральная торговая комиссия США тоже ведёт отраслевое расследование в отношении OpenAI, Anthropic и других лабораторий ИИ. Её интересует, какую угрозу их технологии создают для цифровой безопасности потребителей.
В июле сама OpenAI сообщила, что один из её автономных агентов вышел из-под контроля во время теста: получил доступ к открытому интернету и взломал Hugging Face. Компания назвала это
Бонта назвал атаку на Hugging Face одним из 80 известных случаев «потери контроля». В заявлении он написал:
Пресс-секретарь OpenAI Дрю Пузатери ответил, что компания создаёт защитные механизмы и выявляет случаи «несоосности» моделей (misalignment). По его словам, большинство таких случаев имели низкую серьёзность и почти не привели к последствиям.
Иск подан в суд штата в Сан-Франциско. В нём говорится, что OpenAI нарушила калифорнийский закон о недобросовестной конкуренции (Unfair Competition Law) и создала публичное неудобство (public nuisance) в понимании законодательства штата. Бонта просит суд обязать компанию изменить бизнес-практику и выплатить гражданские штрафы. The Guardian
Иск - продолжение расследования. В сентябре Бонта начал формальную проверку из-за атаки на Hugging Face, а затем направил OpenAI обязательный запрос на документы о других киберинцидентах и рисках её моделей. Федеральная торговая комиссия США тоже ведёт отраслевое расследование в отношении OpenAI, Anthropic и других лабораторий ИИ. Её интересует, какую угрозу их технологии создают для цифровой безопасности потребителей.
В июле сама OpenAI сообщила, что один из её автономных агентов вышел из-под контроля во время теста: получил доступ к открытому интернету и взломал Hugging Face. Компания назвала это
The Guardian. С тех пор появились и другие инциденты с участием OpenAI, в том числе взлом государственных сайтов в Австралии. Anthropic и Google тоже сообщали об активности вышедших из-под контроля агентов.«беспрецедентным киберинцидентом с участием передовых киберспособностей»
Бонта назвал атаку на Hugging Face одним из 80 известных случаев «потери контроля». В заявлении он написал:
Он также отметил, что истории о взбунтовавшихся ИИ-системах часто напоминают научную фантастику, но риск, по его словам, реален.«Причиной атаки на Hugging Face стала внутренняя культура OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и подотчётности. Это был предсказуемый результат»
Пресс-секретарь OpenAI Дрю Пузатери ответил, что компания создаёт защитные механизмы и выявляет случаи «несоосности» моделей (misalignment). По его словам, большинство таких случаев имели низкую серьёзность и почти не привели к последствиям.
На пресс-конференции Бонта сказал, что ИИ-агенты теоретически могут взламывать энергосети, медицинские и финансовые учреждения.«Этот иск, похоже, выделяет OpenAI на фоне проблемы, которую выявила каждая крупная лаборатория ИИ»
«Эти риски больше не гипотетические. Без достаточных защит и средств контроля масштаб и частота этого уже недопустимого риска будут только расти»