7 способов думать о беспокойстве по поводу искусственного интеллекта DeepSeek

Настал «момент спутника искусственного интеллекта»

Это была широко распространенная позиция известного технологического инвестора Марка Андрессена на DeepSeek, с которой он выступил в минувшие выходные:

Другими словами, как объяснил Кристиан Хетцнер из Fortune:

Прогресс Китая в области искусственного интеллекта вызывает дрожь в западном мире, напоминая о значительном достижении Советского Союза. Это развитие событий подразумевает, что Китай под контролем Коммунистической партии сравнялся с Соединенными Штатами и может даже превзойти их в этой области. Более того, более доступные китайские решения ИИ для обучения и вывода бросают вызов основе заоблачных оценок большинства технологических компаний из «Великолепной семерки».

В ноябре 2022 года дебют ChatGPT от OpenAI вызвал всеобщее волнение, вызвав ажиотаж на фондовых рынках искусственного интеллекта (ИИ), напоминающий эпоху доткомов. Этот всплеск привел к росту акций таких компаний, как Nvidia, Microsoft и Tesla, поскольку инвесторы полагают, что избранная группа получит огромную прибыль, связанную с ИИ. Будь то GPT от OpenAI, Gemini от Alphabet или Claude из Anthropic, все согласились, что лишь немногие компании обладают необходимыми финансовыми и технологическими ресурсами, чтобы доминировать в этой области. Они бы извлекли выгоду из своего преимущества, взимая с клиентов плату за использование их эксклюзивных, фирменных моделей ИИ. Однако R1 оспаривает эту идею.

Джо Вайзенталь из Bloomberg размышляет о том, может ли такая идея потенциально превратить и без того динамичный искусственный интеллект в важную цель национальной безопасности.

Появление высокоэффективной китайской модели может укрепить восприятие того, что поиски искусственного интеллекта общего назначения (AGI), независимо от его значения, являются национально значимым начинанием, сопоставимым с созданием ядерного оружия. Несмотря на то, что немногие могут определить AGI, объяснить его важность или предсказать, что его достижение повлечет за собой стратегически, существует широко распространенное мнение, что идет глобальная конкуренция, и проиграть ее не вариант. Это мнение росло еще до того, как DeepSeek привлек внимание. Это также объясняет, почему Трамп и некоторые технологические корпорации обсуждают потенциальные инвестиции в размере полутриллиона долларов в новую организацию под названием Stargate. Хотя их акции в настоящее время могут снижаться, ожидайте, что в будущем этим компаниям будет направлено существенное государственное финансирование в рамках усилий по достижению успеха в этой гонке.

Вайзенталь также предостерегает от подобных слишком милых историй в целом:

Мне не особенно нравятся истории типа «просто так», которые крутятся вокруг работы капитализма и рынков в Китае и США, в частности, о DeepSeek и американских производственных гигантах, таких как Boeing и Intel. Широко распространено мнение, что DeepSeek был ответвлением китайской квантовой фирмы, что привлекательно, поскольку предполагает, что китайская система не уделяет особого внимания финансиализации, требуя создания чего-то существенного. Хотя это может быть правдой, я призываю к осторожности при столкновении с историями, которые кажутся слишком аккуратно упакованными. Аналогичным образом, я нахожу истории, объясняющие трудности американских производственных гигантов из-за чрезмерной концентрации на акционерах, немного неудовлетворительными.

Это тест Роршарха, подтверждающий предвзятость для наблюдателей ИИ.

В настоятельно рекомендуемом анализе споров вокруг Deepseek Кейси Ньютон из Platformer рассматривает различные реакции на новаторское достижение компании, занимающейся разработкой искусственного интеллекта.

В выходные новости о достижении DeepSeek вызвали различные точки зрения. Хотя люди в целом были поражены тем, что DeepSeek создала лучшую модель с открытыми весами при минимальных затратах по сравнению с конкурентами, мнения о ее будущем влиянии сильно разошлись.

С моей точки зрения как наблюдателя, похоже, что успех DeepSeek вызвал различные реакции как среди энтузиастов ИИ, так и среди скептиков. Для тех, кто давно выступает за ИИ, DeepSeek, похоже, подтверждает их убеждения. Однако для скептиков, которые считают затраты на ИИ непомерными и вряд ли будут возмещены, этот успех рассматривается как отражение излишеств и самоуверенности Кремниевой долины.

Для оптимистов, которые верят в необходимость разработки Америкой общего искусственного интеллекта раньше других по соображениям национальной безопасности, DeepSeek служит звонком для пробуждения, чтобы ускорить их усилия. Между тем, исследователи безопасности ИИ, которые предостерегали от представления ИИ как конкуренции из-за страха, что это может привести к неконтролируемым системам, наносящим катастрофический вред, рассматривают DeepSeek как тот самый сценарий, которого они боялись.

Похоже, правда о DeepSeek еще не полностью раскрыта. После анализа новостных статей и обсуждений с профессионалами в этой области я считаю, что это развитие является значительным и требует дальнейшего изучения. Однако я не полностью убежден, что появление мощной, бюджетной китайской модели ИИ радикально изменит динамику конкуренции в той степени, в которой предполагают некоторые эксперты.

Прочитать остальную часть обзора Ньютона можно здесь.

Это важно, но мы также наблюдаем преждевременную истерику

Вот суть относительно спокойного мнения Эмануэля Майберга на 404 Media:

В настоящее время всеобщее внимание уделяется DeepSeek — недавно выпущенному инструменту искусственного интеллекта, разработанному в условиях экспортных ограничений США, которые ограничивают доступ китайских компаний к передовым чипам Nvidia. Как сообщает Wired, DeepSeek возник из High-Flyer, китайского хедж-фонда, изначально использовавшего графические процессоры для анализа финансовых данных. Позже фонд инвестировал в разработку искусственного интеллекта, по-видимому, обойдя потребность в новейших чипах Nvidia с помощью инновационных стратегий обучения с подкреплением. Этот неожиданный шаг поставил под сомнение мнение о том, что такие компании, как Nvidia или OpenAI, создали непреодолимый барьер (часто называемый «ровом»), чтобы удерживать свое лидерство в гонке искусственного интеллекта на неопределенный срок, и, как следствие, идею американского доминирования в глобальной сфере искусственного интеллекта. Более того, это открывает возможность того, что китайская компания могла обнаружить более эффективный и экономичный метод обучения моделей ИИ, чем любая американская компания, которая еще не открыла.

Изучение финансовых показателей DeepSeek может быть сложным, поскольку нелегко подсчитать точные инвестиции, которые они сделали в разработку своей модели. Могут быть скрытые расходы, о которых мы не знаем, и давайте посмотрим правде в глаза, у них есть прочная основа благодаря дорогостоящим исследованиям, в основном от американских фирм, которые им были предоставлены.

Однако если компании ИИ могут создавать конкурентоспособные модели по значительно более низким ценам, используя менее мощные графические процессоры, то высокая цена на технологию Nvidia и огромные суммы, которые компании ИИ тратят на обучение, начинают казаться экстравагантными и ненужными (даже для энтузиастов ИИ), что может быть одной из причин падения цен на их акции.

Проще говоря, кажется, что недавние достижения в эффективности DeepSeek могут потенциально изменить ландшафт рынка ИИ. Однако это не обязательно означает гибель для таких компаний, как Nvidia, OpenAI или других фирм ИИ. Аргумент здесь заключается в том, что если эти новые методы дадут впечатляющие результаты с минимальными вычислительными ресурсами для DeepSeek, они, вероятно, дадут еще лучшие результаты на более крупных обучающих кластерах для более устоявшихся компаний ИИ. Это может привести к быстрой адаптации американских компаний, что обеспечит конкурентоспособность в новой парадигме. Кроме того, эта разработка может снизить воздействие ИИ на окружающую среду, поскольку она требует меньше вычислительной мощности. Это не финансовый совет, а скорее обсуждение потенциальных последствий в отрасли ИИ.

Майберг далее отмечает, что эта форма прогресса представляется совершенно типичной и наблюдалась в различных формах в последнее время.

Среди людей существует тенденция объявлять OpenAI устаревшим всякий раз, когда появляется новая, захватывающая модель. Иногда Llama от Meta, Mistral от France и Claude от Anthropic кажутся лидерами, каждый из которых завоевывает расположение разных пользователей для разных приложений. Однако эта лидирующая позиция часто не длится долго, поскольку появляется другая модель от OpenAI или другой компании, превосходящая новейшие технологии и заставляющая предыдущие модели казаться устаревшими.

Кейси Ньютон высказал схожую точку зрения:

Обычно считается, что компании с открытым исходным кодом будут анализировать и копировать работу крупных лабораторий, и что затраты, связанные с обучением и использованием ИИ, со временем значительно сократятся.

Прошел год с тех пор, как кто-то отправил тот же вопрос в ChatGPT, Claude и Gemini в один и тот же день, и они обнаружили, что все три могут дать ответы сопоставимого качества. Аналогично, для тех, кто использовал Llama, уже больше года известно, что хотя версия с открытыми весами, выпущенная позже, может быть не такой хорошей, она лишь немного уступает.

В настоящее время многие инвесторы, похоже, одновременно осознают эти фундаментальные истины, что приводит к падению цен на акции. Однако неизвестно, была ли эта информация действительно новой для исследовательских лабораторий ИИ и технологических компаний.

Это победа почти для всех (и возможность для США быть менее антиконкурентными)

В своем всеобъемлющем посте Q&A в DeepSeek технический аналитик Бен Томпсон из Stratechery утверждает, что технологические достижения в целом выгодны всем. Он также выражает свою точку зрения, что ограничение доступа Китая к американским микрочипам демонстрирует узкую перспективу.

DeepSeek, по-видимому, является необычайным подарком для большинства, поскольку потребители и предприятия получают значительную выгоду от потенциально бесплатных продуктов и услуг ИИ. В долгосрочной перспективе ожидается, что парадокс Джевонса возобладает, сделав всех, кто использует ИИ, потенциальным победителем. Кроме того, крупные потребительские технологические компании выиграют, поскольку мир бесплатного ИИ подчеркивает важность качества и дистрибуции продукции, областей, в которых эти компании уже преуспевают. Конец начала, по-видимому, точен в этом контексте. Более того, ожидается, что Китай получит значительную выгоду от DeepSeek, хотя полный объем его преимуществ может не стать очевидным сразу. Помимо доступа к DeepSeek, растущая конкурентоспособность Китая с ведущими американскими лабораториями ИИ может привести к взрыву китайских инноваций, поскольку они осознают свою способность конкурировать на этой арене.

У Америки остается два варианта. Один из вариантов — усилить наши оборонные стратегии, расширив запрет на чипы и внедрив систему регулирования, аналогичную системе ЕС для технологий. Другой вариант — признать, что мы сталкиваемся с настоящей конкуренцией, дав себе разрешение конкурировать эффективно. Вместо того чтобы беспокоиться или настаивать на регулировании, мы должны вместо этого сократить ненужные элементы в наших компаниях, которые не способствуют победе. Если мы решим конкурировать, мы все равно можем выйти победителями, и если мы это сделаем, мы будем в долгу перед китайской компанией.

Это не означает, что контроль за экспортом чипов ИИ провалился или от него следует отказаться.

Леннарт Хайм и Сихао Хуан предполагают, что последствия ограничений на экспорт микросхем в Китай еще не проявились в полной мере, и неудивительно, если обнаружатся неожиданные улучшения в вычислительной эффективности.

Поскольку возможности ИИ становятся все более эффективными и распространенными, важно не только контролировать их, но и принимать упреждающие меры для укрепления общественной устойчивости и защиты от потенциального злоупотребления. Это включает в себя создание институтов для оценки и смягчения рисков ИИ и укрепление защиты от вредоносных приложений ИИ со стороны противников. Однако важно признать, что экспортный контроль уже влияет на развитие китайского ИИ, и его влияние может возрасти в будущем. Хотя возможности ИИ, скорее всего, будут распространяться независимо, контроль все равно может дать нам стратегическое преимущество, дав нам время адаптироваться и оставаться впереди. Но мы также должны внедрять политику, которая гарантирует, что демократии останутся на переднем крае этой технологии и будут устойчивы к усилиям противников.

Джордан Шнайдер из ChinaTalk взял интервью у Майлза Брэндеджа, бывшего исследователя политики OpenAI, обсуждая достижения DeepSeek. Брэндедж подчеркнул, что DeepSeek не стремится делать больше с меньшими ресурсами; вместо этого он указал на то, что американские компании ИИ по-прежнему сохраняют преимущество в этой области.

Если предпочтительнее иметь меньше, разве не имело бы смысла вместо этого сократить количество чипов, имеющихся у каждой американской компании? Кажется, в вашей логике есть несоответствие.

Безусловно, существует множество методов улучшения когнитивных возможностей компьютерных чипов, и под давлением DeepSeek, возможно, открыла некоторые из этих методов раньше американских компаний. Однако это не означает, что они не получат значительных преимуществ от дальнейших достижений. Важно отметить, что они, возможно, не смогут напрямую перепрыгнуть с одного уровня (o1, o3 или o5) на другой, поскольку у них большее количество чипов, и прогресс, достигнутый OpenAI, вероятно, был обусловлен его уникальными обстоятельствами.

Вместо того, чтобы интерпретировать это развитие как кульминацию или конечный этап новой парадигмы, точнее будет рассматривать его как начальный шаг. Эти модели представляют собой первые примеры успешного применения обучения с подкреплением для стимулирования функционального мышления. Однако это не означает конец достижений в этой области. Существует сильное желание увеличить вычислительные ресурсы, такие как больше обучения, проведение дополнительных экспериментов и более частая выборка из модели. Кроме того, есть интерес к созданию сложных методов, которые позволяют агентам самостоятельно корректировать, участвовать в дебатах и ​​совместно находить решения.

В настоящее время американские компании имеют преимущество из-за обильного запаса чипов, что позволяет им использовать большую вычислительную мощность для дальнейших достижений в этой области.

Это может стать «событием уровня вымирания» для некоторых венчурных капиталистов

По мнению Дэна Примака из Axios, DeepSeek может представлять катастрофическую угрозу для венчурных компаний, активно инвестирующих в компании, работающие по основополагающей модели.

Если эти компании еще не выпустили свою продукцию широко, объемы требуемого капитала значительно больше, чем любой венчурный капитал, который был распределен ранее, возможно, из-за быстро устаревшей инвестиционной стратегии. Если бы нанотехнологии и web3 были разрушительными элементами для венчурной индустрии, это могло бы стать взрывоопасной ситуацией. Инвесторы, с которыми я говорил, кажутся скорее настороженными, чем встревоженными, в первую очередь потому, что они чувствуют себя застигнутыми врасплох. Возможно, что текущие сделки могут быть временно приостановлены.

Возможно, это просто лопнул пузырь искусственного интеллекта

В контексте Wall Street Journal Джеймс Макинтош размышляет над вопросом: «В какой степени спад рынка был обусловлен глубинными факторами, а в какой — общественными настроениями?

Похоже, что колебания цен указывают на то, что инвесторы концентрируются на фундаментальных вопросах о том, может ли метод DeepSeek привести к снижению потребления энергии и снижению потребности в чипах и центрах обработки данных.

Несмотря на первоначальный скептицизм, сложно принять, что цены взлетели так значительно только из-за того, что опытные инвесторы ввели прогнозы роста в свои финансовые модели и оценили последующие денежные потоки. Во многом эта ситуация напоминает интернет-бум, когда инвесторы осознали его потенциал, но не были уверены в конкретных методах или сроках получения прибыли. По сути, они понимают, что ИИ имеет значительную ценность, но не могут четко представить, как или когда он будет приносить доход.

На рынке, находящемся под сильным влиянием эмоций, определение следующего шага может оказаться сложной задачей. Еще в середине декабря я подозревал, что рынок чрезмерно пузырится из-за того, что цены кажутся оторванными от реальности. Однако предсказывать настроения сложно: инвесторы обладают способностью все больше воодушевляться инвестициями, но их энтузиазм делает их более восприимчивыми к развороту. DeepSeek может быть тем самым разворотом, который мы наблюдаем.

Он добавляет:

Усиление конкуренции может создать проблемы для крупных технологических корпораций в сохранении существенной прибыли, которую ожидают инвесторы. Если эти компании не смогут генерировать значительную прибыль, будет все труднее защищать их высокие рыночные оценки. Эти оценки основаны на убеждении, что инструменты искусственного интеллекта (ИИ) станут широко распространенными и высокоприбыльными; однако даже эксперты с трудом формулируют четкую бизнес-модель для этого сценария. Кроме того, может быть сложнее оправдать огромные инвестиции в центры обработки данных ИИ без убедительной окупаемости инвестиций.