Как опытный технологический журналист, освещающий события Кремниевой долины более двадцати лет, я видел свою изрядную долю революционных инноваций и спорных законопроектов, которые потрясли отрасль до основания. Последний законопроект, SB 1047, не является исключением.
Спорный законодательный акт, направленный на то, чтобы заставить разработчиков соблюдать меры безопасности для сложных систем искусственного интеллекта, приближается на шаг к тому, чтобы быть принятым в качестве закона.
Проще говоря, законопроект SB 1047 предлагает, чтобы создатели инновационных систем искусственного интеллекта в будущем установили меры безопасности, предотвращающие использование этих технологий для проведения кибератак на важные структуры, такие как электростанции.
Застройщики должны предоставить свои протоколы безопасности Генеральному прокурору. Если какие-либо модели ИИ, которыми они лично управляют, приведут к причинению вреда или непосредственной угрозе общественной безопасности, они могут быть привлечены к ответственности за эти действия.
Законопроект, предложенный сенатором Скоттом Винером от Демократической партии Сан-Франциско, был одобрен Ассамблеей штата в среду, набрав 41 голос «за» против девяти оппозиций. В четверг это предложение получило одобрение в Сенате штата путем голосования. На данный момент он движется к офису губернатора Гэвина Ньюсома; однако остается нерешенным, подпишет ли он законопроект или наложит вето.
«Инновации и безопасность можно эффективно сочетать, и Калифорния подает в этом пример», — отметил Винер в своем заявлении.
Представитель Ньюсома заявил, что губернатор оценит законопроект, когда он попадет к нему на стол.
На оживленной технологической сцене Залива законопроект Винера вызвал бурные дискуссии. Центр безопасности искусственного интеллекта, Илон Маск (генеральный директор Tesla), редакция L.A. Times и стартап в области искусственного интеллекта под названием Anthropic, базирующийся в Сан-Франциско, высказались в поддержку этого проекта.
Однако законопроект столкнулся с оппозицией не только со стороны лидеров Демократической партии в Конгрессе, но и со стороны таких технологических гигантов, как Meta и OpenAI, которые выразили опасения, что он может ограничить технологические достижения в области искусственного интеллекта в Калифорнии.
Ведущие демократы в Палате представителей США, такие как бывший спикер Нэнси Пелоси, член палаты представителей Ро Ханна из Фремонта и Зои Лофгрен из Сан-Хосе, выразили свое несогласие с законопроектом и посоветовали губернатору Ньюсому отклонить его. Они утверждают, что закон потенциально может нанести вред процветающему сектору искусственного интеллекта Калифорнии, в котором работают такие компании, как OpenAI, создатель ChatGPT. Кроме того, в качестве причины своей позиции они упоминают текущие инициативы Конгресса, посвященные ИИ.
«В письме губернатору Ньюсому группа из семи представителей Демократической партии в Конгрессе выразила обеспокоенность тем, что предприятия могут решить обосноваться в разных странах или воздержаться от внедрения своих моделей в Калифорнии из-за значительного потенциального риска».
Как любитель кино, увлеченный пересечением технологий и кино, я твердо верю, что Калифорния должна стать инициатором достижений в области искусственного интеллекта, одновременно защищая права потребителей, конфиденциальность данных, интеллектуальную собственность и другие важные аспекты. Однако, на мой взгляд, сенатский законопроект 1047, к сожалению, не помогает этой миссии; вместо этого, похоже, это приносит больше вреда, чем пользы в нашем стремлении к ответственной разработке ИИ.
Как кинокритик, я бы сказал, что этот закон, против которого выступает Винер и другие, преподносится как палка о двух концах. Они утверждают, что это поощряет инновации, в то же время защищая общественные интересы.
«Перед голосованием Ассамблеи в среду днем член Ассамблеи Девон Матис (республиканец от Визалии) предложил установить ограждения. Он подчеркнул важность обеспечения надежности всех участников».
Сторонники SB 1047 утверждают, что он возлагает обязанность обеспечения безопасности на разработчиков, использующих сложные системы искусственного интеллекта. Эта мера потенциально может предотвратить возникновение вредных инцидентов с искусственным интеллектом в долгосрочной перспективе.
На недавней пресс-конференции Йошуа Бенджио, профессор Университета Монреаля и глава Мила-Квебекского института искусственного интеллекта, выразил обеспокоенность тем, что технологические компании не могут самостоятельно справиться с основными рисками, связанными с ИИ. Это потому, что они настолько сосредоточены на борьбе за долю рынка и максимизации прибыли, что могут быть не в состоянии эффективно обеспечить безопасность. Он сравнил эту ситуацию со студентами, оценивающими свою домашнюю работу, предположив, что мы не можем полагаться исключительно на них и должны принять активные меры для смягчения этих рисков.
Сторонники утверждают, что, как и в других секторах, где могут возникнуть проблемы с безопасностью, ИИ должен управляться аналогичным образом.
Проще говоря, Маск выразил свое мнение на платформе в понедельник, заявив, что Калифорнии, скорее всего, следует одобрить SB 1047, законопроект о безопасности ИИ. Он выступает за регулирование искусственного интеллекта уже более двух десятилетий, точно так же, как мы регулируем любой продукт или технологию, которые потенциально могут нанести вред обществу.
В последние несколько дней законопроект прошел существенную оценку в комиссии Сената штата после существенных поправок, внесенных Винером. Среди этих изменений — отмена наказания за лжесвидетельство и корректировка юридических критериев, которым должны соответствовать разработчики в отношении безопасности своих сложных систем искусственного интеллекта.
В письме от 21 августа генеральный директор Anthropic Дарио Амодей, базирующийся в Сан-Франциско, выразил уверенность в том, что, хотя законопроект может повлечь за собой расходы, выгоды от него, вероятно, будут больше. Однако важно отметить, что в этом письме не содержалось одобрения законопроекта, а скорее была представлена точка зрения Anthropic на его потенциальные преимущества и недостатки.
«Амодей ясно дал понять, что SB 1047 направлен на решение подлинных и важных проблем, связанных с катастрофическими рисками в системах искусственного интеллекта. Быстрое развитие технологий искусственного интеллекта представляет собой палку о двух концах, предлагая огромный потенциал для экономики Калифорнии, но в то же время создавая существенные риски».
Но некоторые технологические компании, такие как OpenAI, заявили, что выступают против законопроекта даже после внесения изменений.
В письме от 21 августа директор по стратегии OpenAI Джейсон Квон подчеркнул, что из-за далеко идущего и существенного влияния ИИ на конкурентоспособность и безопасность США крайне важно, чтобы федеральные власти установили и обеспечили соблюдение правил, касающихся передовых моделей ИИ. Он утверждал, что единый набор политик в области искусственного интеллекта на федеральном уровне будет способствовать инновациям и поставит США на лидирующие позиции в формировании глобальных стандартов, а не на лоскутное одеяло законов штатов.
Винер сказал, что он приветствовал бы сильный федеральный закон о безопасности ИИ, который предшествует его законопроекту.
«С учетом прошлых событий принятие этого федерального закона может оказаться сложной задачей», — заявил Винер. «Однако до тех пор Калифорнии следует продолжать отстаивать такие законы, как SB 1047, которые поощряют инновации и защищают общественность».
Среди примерно пятидесяти законодательных предложений, касающихся искусственного интеллекта, SB 1047 является одним из них, в котором основное внимание уделяется различным аспектам того, как эта технология влияет на общество, таким как занятость, дипфейки и общая безопасность, в Законодательном собрании штата.
Смотрите также
- Прогнозы криптовалюты DOGS: анализ и прогноз цен на Dogs
- Прогнозы криптовалюты NOT: анализ и прогноз цен на NOT
- Прогнозы криптовалюты ZK: анализ и прогноз цен на ZKsync
- Прогнозы криптовалюты CATDOG: анализ и прогноз цен на Cat-Dog
- Прогнозы криптовалюты DEGEN: анализ и прогноз цен на Degen (Base)
- Прогнозы криптовалюты TRB: анализ и прогноз цен на Tellor Tributes
- Прогнозы криптовалюты PONKE: анализ и прогноз цен на PONKE
- Прогнозы криптовалюты ORDER: анализ и прогноз цен на Orderly Network
- Прогнозы криптовалюты ENA: анализ и прогноз цен на Ethena
- Прогнозы криптовалюты LFT: анализ и прогноз цен на Lifeform
2024-08-29 23:31