Что есть ИИ и грозит ли он кому-либо 
Одна из очень характерных черт современных ИИ — это галлюцинации (это официальный термин, он используется в научных работах).
Многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием.
Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него...
Продолжение, кому интересно:
https://habr.com/ru/articles/729046/