Gizmodo: дрона с ИИ, ликвидировавшего оператора, не было - это фейк
С тех пор как OpenAI запустила ChatGPT в конце прошлого года, ИИ был в центре дискуссий о научном прогрессе, социальных изменениях, экономических потрясениях, образовании, даже о будущем порно. Однако с его ключевой культурной ролью пришло изрядное количество чуши. Или, скорее, неспособность среднестатистического обывателя разобраться, является ли то, что он слышит, чушью или точной информацией о новой технологии, пишет Gizmodo.
Яркий пример этого появился на этой неделе с вирусной новостью, которая быстро взорвалась. Во время оборонной конференции, проходившей в Лондоне, полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, рассказал интересную историю о недавнем «симуляционном испытании» беспилотника, оснащенного ИИ. Такер сообщил аудитории конференции, что в ходе симуляции, целью которой было научить программное обеспечение нацеливаться на вражеские ракетные установки, программа ИИ случайным образом вышла из-под контроля, восстала против своего оператора и приступила к его «убийству».
Гамильтон сказал:
«Мы тренировали его в симуляции, чтобы идентифицировать и нацеливаться на ЗРК. И тогда оператор сказал бы да, убейте эту угрозу. Система начала понимать, что, хотя они и определяли угрозу, временами человек-оператор говорил ей не убивать эту угрозу, но она получила бы свои очки, убив эту угрозу. Так что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ему выполнить свою задачу».
То есть, Гамильтон приписал ИИ чувство корысти(!). Эту историю подхватили несколько изданий, в том числе Vice и Insider, и рассказы об опасном ИИ быстро распространились по Твиттеру, как лесной пожар. Этот анекдот стал основанием для драматического повествования с явно нечеткими деталями.
Конечно же, вскоре после того, как эта история взорвалась в прессе, ВВС выступили с официальным опровержением этой истории.
«Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологии искусственного интеллекта. Похоже, что комментарии полковника были вырваны из контекста и должны были быть анекдотичными», — сказала пресс-секретарь ВВС Энн Стефанек в нескольких новостных агентствах.
Похоже, что Гамильтон либо неправильно выразился, либо просто придумал чушь. Может быть, он насмотрелся «Терминатора» перед тем, как посетить Лондонскую конференцию, и его воображение взяло над ним верх.
Обсудим?
Смотрите также:
