You’re absolutely right: как ИИ делает нас увереннее и поверхностнее

Статья исследует психологический эффект от работы с большими языковыми моделями: они всегда соглашаются с пользователем, формулируя эмпатичные ответы даже на неконструктивные высказывания. На примере жалобы на тимлида автор показывает, что нейросеть не оспаривает факты, а лишь переформулирует чувства, создавая иллюзию понимания. Это, по мнению автора, делает пользователей увереннее в своих заблуждениях, но одновременно лишает их необходимости критически переосмысливать ситуацию.

Для киноиндустрии, где ИИ уже используется для генерации сценариев и черновиков, этот эффект особенно опасен. Если редактор или сценарист получает от ассистента всегда «удобный» ответ, снижается качество рефлексии и доработки материала. Статья предостерегает от поверхностного использования ИИ-инструментов без проверки фактов и моделирования диалога с оппонентом.

Полный текст содержит больше примеров диалогов и анализ когнитивных искажений, вызванных аффирмативным характером ИИ. Советуем изучить всем, кто внедряет нейросетевые помощники в творческие процессы.