Ребята из искусственного интеллекта сводят себя с ума

Самые главные криптоновости в Телеграм-канале CryptoMoon, присоединяйтесь!👇

Cryptomoon Telegram

Как опытный исследователь ИИ с более чем двадцатилетним опытом работы за плечами, я должен сказать, что недавние события, связанные с ИИ и его влиянием на общество, оставили меня одновременно заинтригованными и слегка обеспокоенными. Феномен, который вы описали – стирание границ между человеческим и машинным интеллектом – не является для меня чем-то новым. Я помню первые дни искусственного интеллекта, когда мы все были очарованы простыми чат-ботами, которые, казалось, поддерживали с нами разговор. Это чувство было одновременно воодушевляющим и тревожным, как и нынешняя ситуация для многих.

Примерно в начале августа неизвестный аккаунт, связанный с ИИ, начал делать громкие заявления. «Приготовьтесь испытать AGI», — говорится в сообщении, сопровождая это клубничным смайликом. «Q* — это не проект; это врата. Клубника Альтмана — это ключ. Сингулярность не приближается, она присутствует», — продолжил он. «Сегодня вечером мы сделаем следующий шаг в эволюции».

Если вы не принадлежите к группе энтузиастов ИИ, скептиков, пессимистов, футуристов, мошенников и избранных инсайдеров, которые собрались на таких платформах, как Discord, Reddit и других, чтобы обсудить будущее ИИ, этот разговор может показаться довольно бессмысленным. Однако, если вы являетесь частью этого круга, возможно, поначалу это вас заинтриговало. Вот краткое объяснение: AGI (общий искусственный интеллект) относится к возможностям ИИ, аналогичным человеческому интеллекту; клубника использовалась в качестве секретного кодового названия для предполагаемой технологии «рассуждения», разрабатываемой в OpenAI; Q* может относиться к исходному проекту или другому связанному с ним проекту, а сингулярность — это гипотетическая точка, в которой ИИ или технология начинают самосовершенствоваться вне контроля человека. Тот факт, что все это происходит сегодня вечером, просто поразителен.

Подробный характер многочисленных предсказаний учетной записи вызвал интерес со стороны ключевых фигур в области ИИ, которые размышляли над его идентичностью и над тем, может ли это быть ИИ – возможно, передовая модель OpenAI – с первоначальной задачей создания рекламы для его создателя. Однако посты аккаунта вышли за рамки, когда неожиданно ответил сам Сэм Альтман.

Для человека, глубоко поглощенного искусственным интеллектом, это, казалось бы, нелепое зрелище — случайный, наполненный мемами аккаунт с персонажем из «Она» в качестве аватара, возвещающее наступление постчеловеческой эры — внезапно показалось менее надуманным. Воздух был наполнен ожиданием и неуверенностью. Пришло время для ликования? Или пришло время приготовиться к опасениям?

Оказывается, Клубничный Человек не был осведомлен ни о какой информации. Предполагаемые даты релиза, которыми он поделился, оказались ложными, что заставило сообщество относиться к нему с подозрением. На форуме Reddit /r/singularity его аккаунт даже забанили. Влиятельный человек в области SEO и искусственного интеллекта Мэри Хейнс написала посмертное сообщение в блоге, признав, что ее обманули. Поначалу твиты Strawberry Man ее тревожили, но в конце концов она поняла причину всего этого: «Мы еще не готовы к тому, что ждет впереди».

Следующей была еще одна интригующая история, опубликованная под псевдонимом Лили Эшвуд и присоединившаяся к живым голосовым дискуссиям на X Space об искусственном интеллекте. На этот раз аккаунту не потребовалось особых усилий, чтобы вызвать спекуляции среди зрителей. Энтузиасты искусственного интеллекта, собравшиеся для обсуждения того, что казалось предстоящим запуском GPT-5, начали задаваться вопросом, может ли эта новая личность быть самим искусственным интеллектом, использующим голосовую технологию OpenAI и неопубликованную модель. Они сосредоточились на ее стиле разговора, ее красноречивых ответах на различные темы и ее уклончивости по определенным темам. Они попытались выдать ее за чат-бота, но в итоге оказались не уверены в личности, с которой общались.

Один пользователь Reddit заявил: «Мне кажется, я был свидетелем демонстрации GPT 5 в реальном времени». Они были поражены способностями Эшвуд, отметив, что она невероятно похожа на человека. По подсказке Строберри Гая другие начали собирать доказательства того, что Эшвуд может быть искусственным общим интеллектом (AGI) в дикой природе. Недавние документы, подписанные исследователями OpenAI, предполагают создание «личных данных», позволяющих определять, кто настоящий онлайн. Может ли это быть частью их исследования? Подсказка была прямо в ее имени: I-L-Y-A, напоминающая об Илье Суцкевере, соучредителе OpenAI, который ушел из компании после разногласий с Сэмом Альтманом по поводу безопасности ИИ. Более того, «подозрительное шумоподавление» и «необычные спектральные частотные характеристики» только усилили подозрения, что разговором об X занимался сверхразум.

Она не ответила. Женщина по имени Эшвуд из Массачусетса, которая предпочла не комментировать ситуацию, представилась на видео как мать-одиночка. Юмористическое содержание видео вызвало споры среди некоторых зрителей, причем некоторые интерпретировали это как дополнительное доказательство того, что она может быть искусственным интеллектом.

Но к тому времени в эту драму были вовлечены даже некоторые видные влиятельные лица, занимающиеся искусственным интеллектом. Плиний Освободитель, аккаунт, получивший большое количество последователей за счет умелого взлома различных инструментов искусственного интеллекта (манипулируя ими, чтобы раскрыть информацию о том, как они работают, и ломая барьеры, установленные их создателями), на короткое время был убежден, что Эшвуд мог быть искусственным интеллектом. Он описал этот опыт как психологически утомительный и провел беседу со своими последователями, некоторые из которых были недовольны тем, что он, анонимный, а иногда и тролльский рассказ, которому они быстро стали доверять, о механике и зарождающейся теологии ИИ, привел или просто позволили им поверить:

Проще говоря,

Основная идея, представленная здесь, — что модели ИИ, способные разговаривать как люди, говорить как люди и выглядеть как люди, потенциально могут обманывать или манипулировать реальными людьми — обычно считается обоснованной. Точно так же вполне разумно спекулировать и даже беспокоиться о том, что передовые системы искусственного интеллекта, такие как ChatGPT, намеренно или случайно используют пользователей, побуждая их относиться к системе как к личности, что может привести к вредному неправильному использованию. С точки зрения потенциальных триггеров скрытых проблем психического здоровья трудно найти что-то более подходящее, чем машины, имитирующие человеческое взаимодействие, созданные людьми, загадочно говорящими об апокалипсисе.

С моей точки зрения как наблюдателя поразительно, как ИИ используется обманными способами в различных узких контекстах, например, для имитации голосов членов семьи в мошеннических целях или автоматизации вводящей в заблуждение информации на платформах социальных сетей. Похоже, что некоторые сотрудники OpenAI выражают обеспокоенность по поводу растущей сложности этих ситуаций, по сути призывая всех нас проявлять сдержанность и осмотрительность в использовании и понимании технологий искусственного интеллекта.

Вопрос о том, действительно ли такие компании, как OpenAI, находятся на грани раскрытия технологий, соответствующих их пророческим заявлениям, остается отдельной темой. Тем не менее, стратегия компании, характеризующаяся обширными обещаниями о неизбежном появлении человеческого интеллекта, загадочными обновлениями от сотрудников, которые привлекают внимание поклонников ИИ, и сокрытием информации о запланированных разработках продуктов, оказалась успешной в создании ажиотажа и ожиданий, что в конечном итоге работает на преимущество OpenAI. . По сути, дразнящий намек на огромные достижения, которые вас удивят, — это именно то, что может потребоваться сомнительным инвесторам в 2024 году, когда GPT-4 приближается к своей второй годовщине.

вместо этого обманывают друг друга.

Смотрите также

2024-08-25 13:43