Согласно исследованию, опубликованному в журнале Nature, современные чат-боты на базе искусственного интеллекта демонстрируют тенденцию к увеличению количества ошибок при ответах на сложные вопросы.
Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта провел анализ работы трех ведущих ИИ-моделей: GPT OpenAI, BLOOM и разработки академической группы BigScience. Результаты показали, что чат-боты утратили способность признавать отсутствие знаний, предпочитая давать неверные ответы.
Исследователи отмечают, что, несмотря на общее повышение интеллектуального уровня моделей, они стали чаще допускать ошибки даже в простых вопросах. Эрнандес-Оралло подчеркивает отсутствие контроля над этими системами со стороны разработчиков.
Ученые рекомендуют внедрить в алгоритмы чат-ботов функцию пропуска вопросов, на которые у них нет достоверного ответа, для предотвращения дезинформации пользователей.
в удобном формате
Перейти в Дзен
