Как вам этот GIF с тремя танцовщицами? Средняя вращается по часовой стрелке, если смотреть слева, и против, если смотреть справа. Какой вариант истинный? Увы! Как я писал ранее, современная наука не может четко отделить разум «нормального человека» от «безумного». Невозможно однозначно определить, разумен человек или нет, проводя тесты. Все слишком зыбко. Наш мир устроен так, что все очевидное стоит подвергать сомнению, так как убеждения формируются на основе субъективного восприятия. А оно часто обманывает. Эволюция создала для живого уверенность как особую «валюту». Теперь эту «валюту» используют и языковые модели (LLM), советы которых влияют на наши решения. Курс обмена уверенности ИИ в уверенность ЛПР (лица, принимающего решение) определяет многое: от покупок до решений о ядерном ударе.

ЛПР - Лицо, Принимающее Решение.

Зачем знать курс обмена долларов в рубли — понятно всем. А зачем знать «обменный курс» уверенности ИИ в вашу уверенность при принятии решения — вряд ли кто-то задумывается.

Знать это критически важно: — Для людей: осознание, что «уверенность ≠ истина», учит смирению и фильтрации информации. — Для ИИ: прозрачность в границах знаний снижает риск «покупки» иллюзии непогрешимости. — Для общества: понимание, что культура — это согласованная, но не абсолютная карта реальности, способствует диалогу. Чтобы сделать людей и алгоритмы разумнее, нужно учить их правильно сомневаться, а не просто увеличивать объём данных LLM. Неумение сомневаться дорого стоило человечеству. «Иллюзия объективности» — страшный порок, хуже трусости. Борьба с иллюзиями, закрепленными в нейрокодах когнитивных искажений, — сложная задача. В цифровом мире «иллюзия объективности» встраивается в инфопотоки, усиливая поляризацию и потенциально приводя к насилию. «Иллюзия объективности» в ИИ может дорого обойтись людям. Важно это понимать.