Создать аккаунт
Главные новости » Эксклюзив » OpenAI разработала метод борьбы с дезинформированием пользователей ChatGPT
Эксклюзив

OpenAI разработала метод борьбы с дезинформированием пользователей ChatGPT

1
Компания OpenAI, которая является разработчиком чат-бота ChatGPT, пришла к выводу, что необходимо бороться с дезинформированием пользователей. ИИ прибегает к обману и фабрикует данные в моменты неопределённости, но специалисты разработали метод борьбы с «галлюцинациями».

OpenAI разработала метод борьбы с дезинформированием пользователей ChatGPT
Источник изображения: pixabay

Чат-бот побил все рекорды, в течение двух месяцев расширив свою аудиторию до ста миллионов пользователей. Стартап OpenAI, в который Microsoft вложила 13 млрд долларов, стоит на сегодняшний день 29 миллиардов долларов. Модели ИИ способны поразить воображение не только своими достижениями. Они временами шокируют пользователей, выдавая фальшивую информацию за правдивую Так искусственный интеллект поступает каждый раз, когда наступают моменты неопределённости. Специалисты OpenAI считают это серьёзной проблемой, так как модели типа ChatGPT или Google Bard фабрикуют информацию. Ситуация с «галлюцинациями» возникает тогда, когда задача требует многоступенчатых рассуждений. Логическая ошибка на одной ступени приводит к масштабному «вранью». Компания предложила разработку, которая позволит моделям ИИ вознаграждать себя не за результат, как было раньше, а за каждый отдельный правильный шаг рассуждения. Специалисты считают, что контролировать следует процесс, а не конечный результат.

Штатный математик OpenAI Карл Коббе отметил, что метод может не сработать во всех случаях, так как ИИ способны придумать даже ссылки и цитаты. Представитель компании уверен в необходимости лицензировать ИИ, который может манипулировать людьми.
Источник: news.rambler.ru
0 комментариев
Обсудим?
Смотрите также:
Продолжая просматривать сайт fact-news.ru вы принимаете политику конфидициальности.
ОК