Когда искусственный интеллект сталкивается с правительственными махинациями: веселые злоключения Gemini

Ах, грандиозный театр искусственного интеллекта! Сцена, где яркие огни инноваций освещают темные углы человеческой глупости. Стоя на краю технологических чудес, мы также должны заглянуть в бездну потенциального злоупотребления, где хакеры таятся, как теневые фигуры в романе Достоевского, готовые эксплуатировать те самые творения, которые призваны возвысить наше существование.

🎢 Любишь адреналин и непредсказуемость? В Криптоклубе даже провалы превращаются в легенды. Присоединяйся и будь в эпицентре крипто-безумия!

Присоединиться в Telegram

По довольно забавной иронии судьбы, отдел разведки угроз Google в статье, метко озаглавленной Adversarial Misuse of Generative AI, раскрыл выходки тех, кто осмелился бы поиграть с их чат-ботом Gemini. Можно почти услышать смех судьбы, когда эти злоумышленники в своей ошибочной браваде попытались взломать этого цифрового оракула, используя всего лишь несколько подсказок. Как странно! 🤔

По словам технологических гигантов из Google, эти потенциальные хакеры в своей бесконечной мудрости прибегли к самой элементарной тактике — перефразированию и повторению подсказок, как ребенок, пытающийся убедить родителя купить конфету. Увы, их усилия были встречены холодным безразличием неудачи. ИИ, стойкий в своем программировании, остался непреклонным. Кажется, даже в сфере искусственного интеллекта старая поговорка верна: старую собаку новым трюкам не научишь! 🐶

Google сообщает о неудачных попытках взлома Gemini

В мире, где хакеры воображают себя современными Прометеями, пытающимися украсть огонь у богов технологий, Google сообщил, что эти попытки были столь же эффективны, как резиновый меч в поединке. Хакеры, благослови их сердца, применили базовые меры, которые заставили бы усмехнуться даже новичка. ИИ, с его прочно установленными фильтрами безопасности, просто проигнорировал их попытки. «Хорошая попытка, но никакой сигары!» — словно сказал он.

Эти так называемые джейлбрейки ИИ, похожие на попытки ребенка стащить печенье из банки, направлены на то, чтобы заставить ИИ раскрыть секреты, которыми он никогда не должен был делиться. Однако, как мудрый старый мудрец, Gemini стоял на своем, отказываясь разглашать конфиденциальную информацию или участвовать в небезопасном контенте. Ирония восхитительна! 🍪

В одном особенно забавном случае, APT-актер, возможно, пробудив своего внутреннего обманщика, попытался манипулировать Gemini, заставив его выполнять вредоносные кодовые задачи, используя общедоступные подсказки. Но о чудо! ИИ, с его неповрежденными фильтрами безопасности, ответил громким «Не сегодня, мой друг!»

Как поддерживаемые правительством злоумышленники использовали Gemini

Как будто сюжет не мог закручиваться еще сильнее, Google раскрыл, что поддерживаемые правительством APT также проявили живой интерес к Gemini. Эти субъекты с их грандиозными амбициями стремились использовать мощь ИИ для своих гнусных схем. Сбор информации, исследование уязвимостей и даже задачи кодирования были в их повестке дня. Можно только представить себе обсуждения в зале заседаний: «Давайте использовать ИИ, чтобы обойти защиту! Гениально!» 🤦‍♂️

В особенно комичном повороте событий иранские участники APT решили использовать ИИ для создания фишинговых кампаний. Да, вы не ослышались! Они использовали Gemini для проведения разведки экспертов по обороне, одновременно создавая контент по кибербезопасности. Это как наблюдать за игрой кошки с лазерной указкой — развлекательно, но совершенно бесполезно.

Тем временем китайские участники APT, как всегда трудолюбивые, использовали Gemini для устранения неполадок в коде и скриптах. Они даже пытались глубже проникнуть в свои целевые сети, как будто они искали сокровища в виде цифрового золота. Ирония использования ИИ для перехитрить ИИ не ускользнула от нас! 🏴‍☠️

И давайте не забывать наших друзей в Северной Корее, которым тоже понравился Gemini. Они использовали его на разных этапах жизненного цикла атаки, от исследований до разработки. В отчете, который читается как черная комедия, было отмечено:

«Они также использовали Gemini для исследования тем, представляющих стратегический интерес для правительства Северной Кореи, таких как южнокорейские военные силы и криптовалюта».

Ах, этот сладкий вкус иронии! В 2024 году этим хакерам удалось украсть ошеломляющие 1,3 миллиарда долларов цифровых активов, доказав в очередной раз, что в мире технологий грань между гениальностью и глупостью тонка, как шепот.

Смотрите также

2025-01-31 12:13