Накопление и умножение ошибок - не доверяйте ИИ

Искусственный интеллект очень упрощает жизнь многим из нас. Он помогает писать статьи журналистам, помогает рисовать иллюстрации, помогает программистам, даёт советы туристам.

Но ускоренное внедрение Искусственного Интеллекта в нашу жизнь может содержать опасности. Например, он (ИИ) может накоплять и умножать ошибки. (Это моё предположение.)

Открываю новостной сайт. Заметка о Петербурге. С первого взгляда узнаю знакомые места на иллюстрации: Марсово поле, Спас-на-Крови, Исаакиевский собор. Это Санкт-Петербург.
Но, присмотревшись внимательнее, замечаю:
Исаакиевский собор должен быть справа, а он слева. Собор Спас0на-Крови тоже расположен как-то неправильно. Вечный огонь на Марсовом поле высотой в три человеческих роста, примерно.

Всё понятно - рисовал Искусственный интеллект.

Или другой случай. Пара туристов из Малайзии была поражена красивыми пейзажами с канатной дорогой на видео. Проехав почти 400 километров туристы с удивлением узнали, что таких достопримечательностей не существует. Видеоролик создал ИИ.

Но это только начало. В следующих попытках ИИ будет учиться уже на неправильных, ошибочных источниках. Ошибки будут складываться и умножаться, если управляющие ИИ специалисты что-нибудь на придумают. Или ИИ уже управляет ими (специалистами).

Кто знает, к чему это приведёт. Быть может скоро ваш ребёнок изучая математику спросит у Искусственного Интеллекта: "Сколько будет 2+2?".
И что ответит ИИ. Четыре? Три? Пять? Или он ответит: "Результат зависит от того, что ты складываешь! Если сложить две капли воды это может быть одна большая капля, или множество мелких брызг, если ты будешь складывать их очень быстро".

А ведь ответ прост: 2+2=4

К чему ещё приведёт внедрение ИИ в нашу жизнь, непредсказуемо. На всякий случай нужно всё перепроверять.
Из недавнего: "Алиса. Как сварить свекольник?"
Алиса: "Отварите натёртую свеклу .....".
А разве не отваренную свеклу нужно натирать? Или оба варианта правильные? Нужно спросить у человека.