Развитие технологий ИИ привело к использованию больших языковых моделей (LLM, MLLM) в системе образования. Однако, актуальной остается проблема галлюцинаций ИИ при использовании таких моделей в образовательном процессе. В статье рассмотрена проблема галлюцинаций LLM и MLLM в контексте образовательного процесса. Показано, что в результате галлюцинаций ИИ может генерировать информацию с ошибками, недостоверный, вымышленный контент, фальсификации и дезинформацию. Это может негативно влиять на всех участников образовательного процесса и систему образования в целом. Для решения проблемы галлюцинации ИИ в системе образования необходим комплексный подход, заключающийся в совершенствовании технологий, обучении использованию ИИ, развитии педагогических практик, создании регуляторных мер.
The development of AI technology has led to the use of large language models (LLM, MLLM) in the education system. However, the problem of AI hallucinations remains a pressing issue when using such models in the educational process. The article examines the problem of hallucinations in LLMs and MLLMs in the context of the educational process. It has been shown that as a result of hallucinations, AI can generate erroneous information, unreliable, fictional content, fabrications, and disinformation. This can negatively impact all participants in the educational process and the education system as a whole. To address the problem of AI hallucinations in the education system, a comprehensive approach is needed, involving the improvement of technologies, training in the use of AI, the development of pedagogical practices, and the creation of regulatory measures.