Google предостерегает от галлюцинирующих чат-ботов
Старший вице-президент Google и руководитель подразделения Google Search, Прабхакар Рагхаван, предупреждает пользователей о важности пересмотра информации, полученной от чат-ботов, основанных на искусственном интеллекте.
Разнообразие ИИ, о котором мы говорим, иногда приводит к созданию вымышленных ответов, которые мы называем галлюцинациями, сообщил господин Рагхаван. Он также заявил, что одной из важных задач является минимизация таких случаев.
При галлюцинациях ИИ-боты предоставляют ответы, которые выглядят достоверными, но никак не основаны на фактах. Разработчики должны свести к минимуму подобные сбои в работе ИИ-ботов.
