arXiv: исследователи ИИ предсказывают грядущий крах моделей генерации контента
Совсем недавно мир пугали «нашествием» нейросетей, которые вытеснят с рабочих мест многих людей. Устрашали и «поумнением» ИИ, захватом ими власти над миром. Теперь всплыла еще одна проблема, которую раньше не замечали.
Как сообщает ресурс arXiv, канадские и британские исследователи забили тревогу по поводу качества контента, создаваемого ИИ. До сих пор искусственный интеллект обучали «творчеству» на базе контента, созданного людьми. Они «проглатывали» книги, кинофильмы, статьи, песни из базы, созданной человечеством.
И даже сейчас появились примеры, когда, например, при использовании некачественных источников машинный «адвокат» делает грубейшие ошибки в судебном процессе.
Ученые предупреждают: таких ляпов станет все больше по мере того, как ИИ начнут использовать базы источников, созданные также машинным «разумом», а не человеком. Да, мы тоже ошибаемся, но и видим, исправляем свои недочеты.
К тому же, люди все же выражают свои мысли индивидуально, по-своему. Но когда ИИ начнет генерацию контента на основе данных предыдущих «сочинений» своих собратьев, ошибки начнут множиться в геометрической прогрессии. И как под копирку. Контент станет однообразным, «неодушевленным».
Но и это еще не конечный результат. Дальше наступит неизбежное вырождение самого искусственного интеллекта, его деградация, считают ученые.
Обучать машинные модели на редких событиях сложно. К тому же, существует и проблема защиты данных. Все это вкупе может сделать ИИ уязвимыми для судебных исков, а в итоге резко снизит их экономические преимущества.
Обсудим?
Смотрите также:
