Губернатор Калифорнии Гэвин Ньюсом заявил, что на его столе находится 38 законопроектов, которые создадут законы в области искусственного интеллекта во вторник, но один из них выделяется на фоне всех остальных: SB 1047, законопроект Калифорнии, который пытается предотвратить возникновение катастроф от систем искусственного интеллекта. Впервые губернатор Калифорнии поделился своим видением данного спорного законопроекта.
Вкратце, он считает, что у SB 1047 есть проблемы. Ньюсом заявил, что его интересуют законы о искусственном интеллекте, которые могут решить проблемы сегодня, не нарушая процветания индустрии искусственного интеллекта в Калифорнии. Это не очень обнадеживающе для будущего SB 1047, который направлен на защиту от катастроф, путем привлечения к ответственности крупных поставщиков искусственного интеллекта, если их продукты используются для причинения серьезного ущерба, например, свержения критической инфраструктуры. В то же время подписание закона вызовет недовольство крупных отраслей индустрии искусственного интеллекта, которые хотят, чтобы Ньюсом ветоировал законопроект.
«Мы работали над тем, чтобы прийти к разумному регулированию, которое поддерживает риск, но не безрассудство», - сказал Ньюсом в разговоре с генеральным директором Salesforce Марком Бениоффом во вторник, на сцене конференции Dreamforce 2024. «Это вызывает трудности в данном пространстве, особенно с учетом SB 1047, из-за избыточного влияния, которое могут оказать этот закон, и угнетающего эффекта, особенно в open-source сообществе».
Далее Ньюсом заметил, что он должен учитывать доказанные риски по сравнению с гипотетическими рисками. Он позже добавил: «Я не могу решить все проблемы. На что мы можем решить?»
Губернатор затронул главную критику SB 1047: законопроект пытается предотвратить роль искусственного интеллекта в массовых катастрофах и кибератаках, стоимостью более $500 миллионов, но почти не требует от технологических компаний отчитываться за что-либо, что не подпадает под это условие. Критики законопроекта утверждают, что он может ограничить инновации, оставляя без регулирования проблемы существующие в сфере искусственного интеллекта.
Ньюсом сделал эти замечания перед аудиторией, присутствующей на конференции по технологиям для предприятий в самом центре Сан-Франциско. На большинстве недавних технологических конференций, которые я посетил, в очереди в туалете можно было услышать жужжание о многих проблемах SB 1047. Ньюсом, вероятно, знал, какого рода избиратели присутствуют в аудитории, и мог обращаться к толпе.
Тем не менее, губернатор подкрепляет свои слова о регулировании ИИ действиями. Еще во вторник губернатор Калифорнии подписал пять законов, которые решают проблемы с искусственным интеллектом, с которыми мы уже сталкивались в 2024 году, такие как ИИ-генерируемая дезинформация в период выборов и создание холливудскими студиями клонов актеров с помощью ИИ. Возможно, именно на эти «доказанные риски» ссылается Ньюсом.
“Губернатор Ньюсом лучше всего понимает важность лидерства Калифорнии, когда федеральное правительство не вмешивается,” - заявил сенатор штата Скотт Уинер в заявлении для TechCrunch. “Работа губернатора и первого партнера по привлечению внимания к последствиям социальных медиа является прямым результатом неспособности федерального правительства регулировать социальные медиа. Я уверен, что губернатор окажет этому законопроекту должное внимание.”
Ньюсом во второй половине дня во вторник пожаловался на то, что федеральное правительство “не справляется с регулированием” в сфере искусственного интеллекта. Губернатор отметил, что Калифорния ранее лидировала в сфере регулирования технологий - в частности, социальных медиа и конфиденциальности - и ему не удивительно, что люди снова обращаются к государству за лидерством. Тем не менее, Ньюсом говорит, что он осторожно относится к тому, чтобы не упустить первенство Калифорнии в области искусственного интеллекта.
“[ИИ] - это пространство, в котором мы доминируем, и я хочу сохранить наше превосходство,” - сказал Ньюсом. “В то же время, у вас возникает глубокое чувство ответственности за решение некоторых из наиболее экстремальных проблем, с которыми многие из нас сталкиваются - даже самые большие и сильные сторонники этой технологии - и это сложное положение.”
Ньюсом намекнул, что, вероятно, было преувеличено, как подписание SB 1047 могло бы негативно сказаться на отрасли искусственного интеллекта за одну ночь. Однако он отметил, каким образом подписание неправильных законов за несколько лет могло бы глубоко повлиять на доминирование Калифорнии.
Губернатор Калифорнии не явно не сказал во вторник, подпишет ли он или отклонит законопроект. Он сказал LA Times, что пока не принял решения по этому вопросу. OpenAI, Нэнси Пелози, Торгово-промышленная палата Соединенных Штатов и ассоциации крупных технологических компаний настаивают на том, чтобы Ньюсом отклонил SB 1047. С другой стороны, Илон Маск и Anthropic выразили слабое одобрение, в то время как некоторые выдающиеся исследователи в области искусственного интеллекта, такие как Йошуа Бенджио и Джеффри Хинтон, полностью поддерживают SB 1047.
Губернатору Ньюсому осталось две недели, чтобы принять свое решение. До этого момента мы остаемся с кучей замечаний, которые сулят ничего хорошего для будущего законопроекта.
