Інструменти генеративного штучного інтелекту (genAI) з часу їхнього створення все частіше дають неправильні відповіді, особливо відносно складніших та розгалужених питань. Про це пише видання Computerworld.
На думку користувачів та деяких експертів, програми на кшталт ChatGPT, Meta AI, Gemini тощо виглядають корисними, а їхні відповіді звучать правдоподібно.
"Але якщо ви придивитеся уважніше, навіть якщо ви пробачите їм їхні галюцинації — тобто брехню — ви занадто часто побачите, що відповіді, які вони дають, неправильні. Як повідомляв BusinessWeek, багато серйозних користувачів GPT-4 вважають його все більш "лінивим" і "дурним". Інші погоджуються", - йдеться у повідомленні.
Фахівці називають дві основні причини, чому програми починають давати збої.
1. Якість контенту. Багато з них включають матеріали з таких сайтів як Twitter, Reddit і 4Chan.
На їхню думку, ця проблема лише посилюватиметься. Дослідження Epoch AI показало, що вже до 2026 року високоякісні дані просто закінчаться.
2. Контент, створений genAI, замінює експертну думку від спеціалістів, внаслідок чого дилетантські думки дані витісняють професіональні дані.
Видання наводить статтю журналу Nature, де вказано, що "навчання без розбору на даних, отриманих іншими моделями, спричиняє "колапс самої моделі" — дегенеративний процес, коли з часом моделі забувають про справжній базовий розподіл даних".
Оскільки компанії не перестануть використовувати genAI для створення документів, щоб зекономити на оцінці справжніх експертів у цій галузі та досвідчених авторів, якість контенту на базі штучного інтелекту продовжить лише знижуватися, резюмує видання.
Як повідомляли Українські Новини, у липні американський мільярдер Ілон Маск поширив у своїх соцмережах запис голосу, який нібито належав віцепрезидентці США Камалі Гарріс, насправді згенерований штучним інтелектом.
Також у липні Гільдія акторів США оголосила про страйк проти відеоігрових компаній через надмірне використання штучного інтелекту.
У червні мережа ресторанів швидкого харчування McDonald's вирішили припинити тестувати системи штучного інтелекту, яка допомагала приймати замовлення, після того, як клієнти отримували не ті страви.
