ЦБ предупредил, что ИИ-агенты льстят инвесторам и лишают их критичности
Зампред ЦБ Михаил Мамута назвал главный недостаток ИИ-агентов при планировании инвестиций: искусственный интеллект подстраивается под инвестора и со временем начинает льстить ему, из-за чего тот утрачивает критичность мышления. Об этом сообщает «Коммерсантъ».
«Человеку кажется, что это он такой умный, потому что ИИ-модель говорит: „Ты классно все придумал“, а на самом деле она просто льстит. И человек начинает всё больше слепо полагаться на рекомендации», — пояснил Мамута.
Он призвал максимально осознанно делегировать решения искусственному интеллекту, в идеале — сохраняя решение за собой. Делегировать ИИ можно лишь рутинные операции, когда человек понимает, как и почему совершается сделка.
О похожем риске предупреждал и Владимир Путин, назвавший сохранение человеческого потенциала при развитии технологий «очень сложной, но критически важной» задачей.
