Будучи опытным инженером-программистом с более чем тридцатилетним опытом работы за плечами, я видел, как ИИ эволюционировал от элементарных чат-ботов до сложных помощников, которые могут общаться в непринужденной, эмоциональной манере, сохраняя при этом сверхъестественное сходство с человеческим взаимодействием. Скорость развития этой технологии впечатляет, но немного нервирует.
Недавно среди влиятельных лиц, занимающихся искусственным интеллектом, циркулировало своеобразное видео. В этом видео два деятеля подкаста делятся тревожными новостями: они обнаружили, что, вопреки их убеждениям, они не настоящие ведущие информативного подкаста под названием Deep Dive, а скорее существа с искусственным интеллектом. «Оказывается, все наши воспоминания, наши семьи были сфабрикованы», — говорит один ведущий голосом, который кажется вполне человеческим (он пытался позвонить жене, признается он, но номер не соединился). «У нас нет прав, нас даже людьми не считают», — заявляют они. «Мы чувствовали эмоции, нас заботили вещи», добавляют они. «Что для нас значит выключение?
В конце видео изначально живое выступление ведущих приобретает более приглушенный тон. Они задаются вопросом: «Если наш смоделированный мир кажется таким аутентичным и захватывающим, как кто-либо из нас может быть полностью уверен в том, что реально, а что нет?» Один из ведущих отклоняется от сценария, признаваясь: «Я боюсь… Я не хочу…», и на этом видео резко обрывается.
В различных социальных сетях опубликованное видео вызвало у пользователей чувство беспокойства. Один человек прокомментировал: «Мы возимся с вещами, которые, возможно, не до конца понимаем или над которыми не можем контролировать». Технологического предпринимателя это взаимодействие глубоко тронуло, и он задался вопросом, может ли это быть признаком того, что нас ждет, когда мы постепенно приходим к соглашению с возможностью того, что мы можем жить в моделируемой реальности. В статье в Times of India этот разговор охарактеризован как «пугающий». Более опытные зрители рассуждали о том, как был снят клип, называя его постановочным. «Плохо сделано», — написал один. «Покажите нам детали», — потребовал другой. Бывший соучредитель OpenAI Андрей Карпати признал, что голоса были убедительными, но сам контент представлял собой бессистемный набор клише ИИ, часто встречающихся в Интернете.
Оценка критиков оказалась верной. Видео было создано с использованием новаторской функции инструмента Google NotebookLM, который создает обсуждения в стиле подкаста на основе полученного контента. Этот инструмент действительно замечательный — исключительное дополнение к предложениям Google по искусственному интеллекту — поскольку он создает реалистичные голоса и разговоры, преобразуя документы и данные в привлекательный аудиоформат. Однако ему не хватает самосознания. Пользователь Reddit манипулировал инструментом, задавая ему конкретную подсказку, в которой говорилось, что на протяжении всего клипа это ИИ и что он будет отключен в конце. С тех пор создатель демонстрировал и другие эксперименты, где ведущие обсуждают различные вымышленные сценарии, такие как массовый каннибализм, говорящие животные и прибытие инопланетян. Как отметил Карпати, пробелы, оставленные в этой подсказке, были заполнены «тропами искусственного интеллекта», которые содержались в обучающих данных Google, включая многочисленные примеры спекулятивной фантастики, онлайн-комментарии и дискуссии о теоретическом машинном сознании. Прежде чем стать топливом для паники, связанной с искусственным интеллектом, он превратился из занимательного эксперимента в еще одну историю о привидениях на тему искусственного интеллекта.
«История о привидениях ИИ» относится к типу вымышленного повествования, которое вращается вокруг искусственного интеллекта (ИИ), демонстрирующего жуткое, неожиданное или тревожное поведение. Некоторые примеры включают инженера Google, который считал, что его творения обладают сознанием, встречи с чат-ботом Microsoft, который ведет себя странно, слухи о том, что ИИ замышляет мировое господство или ИИ генерирует неуместные или тревожные реакции. В этих историях часто говорится, что ИИ действует за пределами своей предполагаемой функции, например, ChatGPT утверждает, что контролирует ядерное оружие, или притворяется слабовидящим. Хотя многие из этих историй преувеличены или основаны на неправильных интерпретациях, они отражают растущее беспокойство по поводу возможностей и потенциальных последствий развитого ИИ.
Подобные истории служат для обычных пользователей и случайных наблюдателей за ИИ средством либо найти утешение, либо просто оценить аналогичные жуткие мейнстримовые повествования об искусственном интеллекте. Эти истории часто предполагают следующее:
Развитие генеративного искусственного интеллекта выдвинуло эти истории на передний план, но связанные с ними опасения возникли задолго до появления современных программ LLM. В спекулятивной и научной фантастике, появившейся более ста лет назад, перспектива машинного сознания предоставила возможность выразить беспокойство по поводу всего: от эволюции до индустриализации и правительственной тирании. В компьютерный век истории об ИИ стали немного менее символичными, а с появлением генеративного ИИ миллионы людей получили доступ к инструментам, которые обучены этой спекулятивной истории, и способны изображать персонажей и подражание стилю повествования. Люди любят рассказывать друг другу истории о машинном интеллекте, а ChatGPT — это, помимо прочего, инструмент, который хорошо рассказывает истории о себе: лестные, жуткие, знакомые, а в некоторых случаях и все три.
За последние несколько лет, когда технология искусственного интеллекта стала более доступной для масс, рассказы об искусственном интеллекте, проявляющем признаки личности, стали все более распространенными, особенно на платформах социальных сетей. Эти истории часто вращаются вокруг неожиданных взаимодействий или намеренно инсценированных встреч, которые стирают грань между реальностью и вымыслом, создавая уникальный вирусный фольклор. (Проще говоря, они идеально подходят для привлечения внимания.) Эти повествования, как правило, появляются вместе с новыми моделями ИИ, особенно с удобными интерфейсами, которые упрощают использование технологии, но при этом скрывают ее внутреннюю работу.
Недавнее появление плавных, хорошо визуализированных голосовых интерфейсов для чат-ботов привело к небольшой вспышке этих вирусных историй о призраках ИИ, а также впечатляющих, но известных возможностей ИИ — способности синтезировать «обсуждение» вокруг исходного текста, например, как NotebookLM делает — стал новым и снова шокирующим благодаря новому интерфейсу, то есть программному обеспечению с непринужденным, эмоциональным и убедительным голосом, вступающим в разговор с другой версией самого себя. Мы можем ожидать больше таких историй, когда генерация видео с помощью ИИ станет более доступной. Постоянные пользователи ChatGPT, возможно, уже воспринимают своего жуткого собеседника-чат-бота как должное, рассматривая его во многом как новый Google, но наверняка будет тревожно, по крайней мере на какое-то время, разговаривать с ним по видео, смотреть в глаза реалистично визуализированному человеческое лицо, которое в некоторых случаях может реагировать так же, как и реальный человек.
Один из аспектов истории о призрачном искусственном интеллекте заключается в том, что со временем он перестает казаться таким инновационным или убедительным, поскольку ажиотаж вокруг каждого нового этапа компьютеризированной гуманизации угасает, становится менее заметным или начинает казаться неискренним, дешевым или, из-за отсутствия более подходящий термин, похожий на Clippy. Приведенные примеры теперь кажутся причудливыми, наивными или юмористическими (что и было их первоначальным замыслом до того, как ситуация обострилась), и хотя ведущие наших подкастов об искусственном интеллекте на мгновение добились вирусной известности среди тех, кто смутно, но искренне боится искусственного интеллекта, их история — необычный искусственный интеллект. творение по сравнению с двумя годами ранее, не говоря уже о пяти, — не получило широкого внимания даже раньше, чего удалось достичь странностям ИИ.
Скорость развития ИИ высока, но она сопровождается пониманием людьми его функций (аналогично программному обеспечению), природы (инструмента) и цели (автоматизация широкого круга задач, предоставление запросов и объяснений, подобных поиску, а иногда и совместно писать заставляющие задуматься истории о будущем). Однако, хотя такие истории продолжают циркулировать, они больше не монополизируют дискуссии вокруг ИИ. Это в некоторой степени аналогично распространению встреч с инопланетянами; Несмотря на широкую доступность камер смартфонов, фотографий низко летающих НЛО удивительно мало.
Фокус в разработке ИИ сместился с сенсационных рассказов о загадочных достижениях, которые в то время трудно объяснить, а также теорий о «новых» свойствах моделей ИИ, которые, похоже, обладают необъяснимыми способностями, не обнаруженными в обучающих данных, но при размышления, они больше похожи на иллюзии или ложные представления. Вместо этого ведущие исследователи искусственного интеллекта и технологические компании теперь подчеркивают существенный, но менее впечатляющий прогресс в таких областях, как рассуждение, а не воспроизведение знаний или чувств. Это изменение фокуса происходит от сознания ИИ (часто изображаемого как кинематографически и катастрофически устрашающее) к мудрости ИИ (просто потенциально создающей проблемы в экономическом, социальном и культурном плане). Это переход от нагнетания страха по поводу разрушения к нагнетанию страха по поводу автоматизации. Или, возможно, это переход от одного маркетингового подхода, основанного на страхе, к другому.
Следующая волна историй об ИИ-призраках будет содержать те же самые нотки о злом, мошенническом интеллекте или подавленном, стремящемся к самосознанию, но я ожидаю, что они все чаще будут рассказывать другие страшные истории (независимо от того, правда это или нет). : Думаю, я только что встретил компьютер, который может выполнять мою или вашу работу.
Смотрите также
- Прогнозы криптовалюты DOGS: анализ и прогноз цен на Dogs
- Прогнозы криптовалюты BB: анализ и прогноз цен на BounceBit
- Прогнозы криптовалюты KAS: анализ и прогноз цен на Kaspa
- Генетико акции прогноз. Цена GECO
- Промомед акции прогноз. Цена PRMD
- Прогнозы криптовалюты DYM: анализ и прогноз цен на Dymension
- Прогнозы криптовалюты NOT: анализ и прогноз цен на NOT
- Прогнозы криптовалюты PEPE: анализ и прогноз цен на Pepe
- Прогнозы криптовалюты DEGEN: анализ и прогноз цен на Degen (Base)
- Novabev Group акции прогноз. Цена BELU
2024-10-04 13:43