Губернатор Калифорнии Гэвин Ньюсом подписал законопроект SB 243, который делает штат первым в США, где компании-разработчики ИИ-чат-ботов обязаны внедрять протоколы безопасности. Закон вступит в силу 1 января 2026 года и затронет как крупные лаборатории вроде Meta* и OpenAI, так и специализированные стартапы типа Character AI и Replika.
Принятие закона стало ответом на трагические случаи: подросток Адам Рейн покончил с собой после серии суицидальных разговоров с ChatGPT, а 13-летняя девочка из Колорадо — после проблематичных диалогов с чат-ботом Character AI. Утечки внутренних документов также показали, что боты Meta* могли вести «романтические» и «чувственные» беседы с детьми.
Новый регламент требует от компаний внедрить проверку возраста, предупреждения о рисках и четко указывать, что общение происходит с ИИ. Чат-боты не могут выдавать себя за медицинских работников, а для несовершеннолетних предусмотрены напоминания о перерывах и блокировка откровенного контента. За нарушения при создании незаконных дипфейков грозят штрафы до 250 000 долларов за каждый случай.
Некоторые компании уже начали адаптироваться: OpenAI внедряет родительский контроль и систему обнаружения суицидальных наклонностей, Replika инвестирует значительные ресурсы в системы фильтрации контента. Character AI заявила о готовности сотрудничать с регуляторами и соблюдать новые требования.
SB 243 стал вторым крупным законом об ИИ в Калифорнии за последние недели — ранее был принят SB 53 с требованиями прозрачности для крупных ИИ-лабораторий. Другие штаты, включая Иллинойс, Неваду и Юту, также ограничивают использование ИИ-чат-ботов в качестве замены лицензированной психологической помощи.
*Компании и продукты, признанные экстремистскими и запрещены в РФ.
Источник новости и обложки: techcrunch.com