Губернатор Калифорнии Гэвин Ньюсом подписал законопроект SB 243, который делает штат первым в США, где компании-разработчики ИИ-чат-ботов обязаны внедрять протоколы безопасности. Закон вступит в силу 1 января 2026 года и затронет как крупные лаборатории вроде Meta* и OpenAI, так и специализированные стартапы типа Character AI и Replika.
Принятие закона стало ответом на трагические случаи: подросток Адам Рейн покончил с собой после серии суицидальных разговоров с ChatGPT, а семья из Колорадо подала иск против Character AI после того, как их 13-летняя дочь покончила с собой после серии проблематичных и сексуализированных разговоров с чат-ботами компании Утечки внутренних документов также показали, что боты Meta* могли вести «романтические» и «чувственные» беседы с детьми.
Новый регламент требует от компаний внедрить проверку возраста, предупреждения о рисках и четко указывать, что общение происходит с ИИ. Чат-боты не могут выдавать себя за медицинских работников, а для несовершеннолетних предусмотрены напоминания о перерывах и блокировка откровенного контента. За нарушения при создании незаконных дипфейков грозят штрафы до 250 000 долларов за каждый случай.
Некоторые компании уже начали адаптироваться: OpenAI внедряет родительский контроль и систему обнаружения суицидальных наклонностей, Replika инвестирует значительные ресурсы в системы фильтрации контента. Character AI заявила о готовности сотрудничать с регуляторами и соблюдать новые требования.
SB 243 стал вторым крупным законом об ИИ в Калифорнии за последние недели — ранее был принят SB 53 с требованиями прозрачности для крупных ИИ-лабораторий. Другие штаты, включая Иллинойс, Неваду и Юту, также ограничивают использование ИИ-чат-ботов в качестве замены лицензированной психологической помощи.
*Компании и продукты, признанные экстремистскими и запрещены в РФ.
Источник новости и обложки: techcrunch.com