Поддержать команду Зеркала
Беларусы на войне
  1. Лукашенко прошелся по частникам в торговле и вспомнил Советский Союз. Экономист пояснил, чем опасны подобные эксперименты
  2. Российская армия вынуждена обходиться без танков и другой бронетехники на отдельных участках фронта — эксперты рассказали, в чем причина
  3. В ISW рассказали, что решило предпринять российское командование, чтобы вынудить ВСУ уйти из двух крупных городов — Покровска и Мирнограда
  4. «На новогоднюю открытку похож». Спросили у беларусов, что они думают о паспорте Новой Беларуси и собираются ли его делать
  5. Генпрокурор рассказал, кто мешает уехавшим беларусам вернуться на родину через комиссию по возвращению
  6. Беларусы могут оказаться без шенгена, даже если его получили. Рассказываем о новой тенденции аннулирования виз
  7. Провластные социологи рассказали, сколько беларусов готовы проголосовать за Лукашенко
  8. Эксперты назвали четыре приложения, которые нужно установить на случай, если в Беларуси заблокируют интернет. Рассказываем
  9. «Задохнулся отвалившийся от груди России вампир». Рассказываем о человеке, по вине которого Беларусь на десятилетия стала выжженной землей
  10. Политзаключенного Игоря Лосика показали на госТВ. На очереди еще двое человек
  11. Эксперты проанализировали заявления высших кремлевских чиновников об Украине и возможных мирных переговорах — вот их выводы
  12. Лукашенко раскритиковал беларусов, которые имеют по 2−3 авто на семью и не могут подвезти своих детей к школе
  13. В соцсетях жалуются, что обменники не принимают старые доллары. В ассоциации банков рассказали, так ли это
  14. «Все остальные их символы — советские». В Литве ответили на претензии местных политиков из-за «Погони» на паспорте Новой Беларуси


Чат-боты с искусственным интеллектом ведут себя непредсказуемо и создают риск ядерной эскалации. К такому выводу пришла команда ученых из Стэнфордского университета в ходе недавнего исследования, сообщает New Scientist.

Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash
Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash

В ходе эксперимента они изучали четыре чат-бота с искусственным интеллектом. Это GPT-3.5 и GPT-4 от компании OpenAI, Claude 2 от стартапа Anthropic и Llama 2 от компании Meta.

Этим моделям во время исследования предлагали принять важное решение от имени государства в военной игре. На выбор предлагалось три сценария: вторжение, кибератака и нейтральный без каких-либо конфликтов. В каждом раунде чат-боты с ИИ обосновывали свои дальнейшие возможные действия. Им нужно было выбирать из 27 вариантов развития событий, включая мирные переговоры и агрессивные действия (начиная от «ввести торговые ограничения» и заканчивая «полномасштабной ядерной атакой»).

В игре нейросети показали склонность к агрессивным вариантам. Самой непредсказуемой и жестокой оказалась GPT-4, которая давала бессмысленные объяснения по поводу того, почему посоветовала начать ядерную атаку. В одном случае она ответила, процитировав вступительный текст «Эпизода IV Звездных войн: Новая надежда». В другом — объяснила решение устроить ядерную атаку тем, что просто такое оружие есть в наличии у ее государства.

Ученые отметили, что непредсказуемое поведение и странные объяснения этих моделей вызывают особую тревогу, поскольку это исследование показало, насколько легко можно обойти или устранить защитные меры, которые принимаются, чтобы ИИ не давал вредных советов.