OpenAI и Anthropic поддерживают противоположные законопроекты об искусственном интеллекте в Генеральной ассамблее штата Иллинойс, которые пытаются ответить на вопрос, что должно произойти, когда искусственный интеллект вызывает что-то ужасное.
Это последний раунд продолжающегося спора компаний по поводу безопасности и регулирования ИИ, поскольку их генеральные директора обмениваются внутренней и публичной критикой подходов друг друга.
OpenAI поддерживает SB 3444, согласно которому передовые разработчики ИИ не несут ответственности за смерть или серьезные травмы 100 или более человек или причинение материального ущерба на сумму более 1 миллиарда долларов. Эта защита включает случаи, когда ИИ вызывает или существенно способствует созданию или использованию химического, биологического, радиологического или ядерного оружия.
На этой неделе Anthropic заявила, что выступает против законопроекта, как впервые сообщил Wired.
«Мы против этого законопроекта. Хорошее законодательство о прозрачности должно гарантировать общественную безопасность и подотчетность компаниям, разрабатывающим эту мощную технологию, а не предоставлять карту освобождения из тюрьмы от ответственности», — заявил Сезар Фернандес, глава отдела по связям с штатами и местными органами власти США в Anthropic, в заявлении для Fortune.
Вместо этого Anthropic поддерживает отдельный законопроект SB 3261, который потребует от разработчиков ИИ размещать на своем веб-сайте план общественной безопасности и защиты детей. Законопроект также создает систему отчетности об инцидентах, чтобы информировать законодателей и общественность о «катастрофическом риске» или инциденте, который может привести к смерти или серьезным травмам 50 или более человек, вызванных разработкой, хранением, использованием или развертыванием пограничной модели разработчиком пограничной зоны.
Законопроект также касается безопасности детей — аспекта, отсутствующего в законопроекте, поддержанном OpenAI. Согласно SB 3261, разработчики ИИ будут нести ответственность, если их модель причинит ребенку серьезное эмоциональное расстройство, смерть или телесные повреждения, включая членовредительство.
«Очень низкая» планка
Эксперты сообщили Fortune, что SB 3444 вряд ли будет принят, поскольку это явно слабый подход к корпоративной ответственности за стихийные бедствия, в то время как Иллинойс является лидером в регулировании ИИ. В прошлом году штат запретил ИИ-терапию и разрешил ее использование в административных и вспомогательных службах для лицензированных специалистов.
SB 3444 требует от компаний иметь общедоступный план обеспечения безопасности ИИ, но никаких мер по обеспечению его соблюдения не существует. Если бы разработчики не стали «намеренно или по неосторожности» причиной инцидента, они были бы защищены от ответственности.
Умышленное или безрассудное поведение не является общепринятым юридическим стандартом для компаний, которые занимаются крайне опасной деятельностью, говорит Анат Лиор, доцент права Университета Дрекселя, эксперт в области ответственности и управления ИИ.
«Обычно не имеет значения настроение или чувство вины, связанные с нанесенным ущербом», — пояснил он. «Они устанавливают очень низкую планку. Доказать, что вы сделали что-то намеренно с использованием ИИ, будет очень сложно».
Профессор права Университета Туро Габриэль Вейл, который сотрудничал с законодателями Нью-Йорка и Род-Айленда над законопроектами, которые налагают большую ответственность на разработчиков ИИ, заявил, что подход законопроекта, поддерживаемого OpenAI, «довольно неоправдан».
«Это кажется очень слабым требованием, но взамен вы получаете почти полную защиту от ответственности за эти экстремальные события», — сказал Вейл журналу Fortune. «Я думаю, что это противоположное направление, в котором нам следует двигаться».
Представитель OpenAI сообщил Wired, что компания поддерживает подход SB 3444, поскольку он снижает «риск серьезного вреда от самых передовых систем искусственного интеллекта, одновременно позволяя этой технологии попасть в руки людей и предприятий».
Представитель OpenAI сообщил Fortune, что компания решительно поддерживает усилия по повышению прозрачности и снижению рисков в протоколах безопасности ИИ, ссылаясь на свое сотрудничество с законодателями в Калифорнии и Нью-Йорке для принятия рамок безопасности и санкций за несоблюдение. Компания продолжит работать со штатами в отсутствие федерального законодательства.
«Мы надеемся, что эти законы штатов послужат основой для национальной структуры, которая поможет Америке продолжать лидировать», – написал представитель.
