ЧатГПТ и опасные когнитивные искажения

Пишу о нормализованном безумии и табуированной нормальности — простыми словами о психологии, маркетинге и наших повседневных самообманах. Вместо лозунгов — работающие наблюдения, кейсы и неудобные выводы. Если любите ясные объяснения, практичную иронию и тексты, после которых хочется пересмотреть свои решения — вам сюда.

чатгпткогнитивные искаженияреклама

Ровно до того момента, как я пытаюсь получить от нее информацию о чём-то, в чём я разбираюсь — например, о рекламе.

В таких ситуациях я почему-то непременно сталкиваюсь с набором банальностей, которые имеют к реальность столь же косвенное отношение, как изображенные в мультиках звери — к настоящим животным. Оказывается, эта хрень способна лишь выдавать некую обобщенную информацию, которую можно получить из топ-10 выдачи Яндекса по соответствующему запросу — из статей, которые пишут незнакомые с темой копирайтеры из Украины по цене до двух долларов за 1000 знаков.

И я этим демонстрирую два весьма опасных когнитивных искажения:

  • Мы доверяем источнику информации, если источник выглядит авторитетно, а информация подана уверенно (у чатаГПТ нет уверенного хорошо поставленного голоса, но нет и оговорок вроде «судя по тому, что про это чаще всего пишут в интернете анонимные авторы»)
  • Мы очень быстро «разбираемся» в теме, которая нам мало знакома — поверхностная информация кажется нам исчерпывающей

То есть нам достаточно послушать интервью владельца дизайн-студии Артемия Лебедева о том, как всё устроено в мире, чтобы посчитать, что мы знаем, как всё устроено в мире. Хорошо, что к управлению миром нас никто на пушечный выстрел не подпустит, а вот власть, скажем, принимать финансовые решения на уровне семьи у нас есть. Или распоряжаться здоровьем собственным и здоровьем своих детей. Или писать псевдоумные посты в Телеграме, как я. Что делает подобные когнитивные искажения действительно опасными.

Дискуссия

Aleksei Groodinin
Yury Pimenov
Либо мы забыли о том, что все таки правильно построенный промт - залог успешного ответа )
Простите, а какое отношение промт имеет к принципу работы нейросети? Формализм нейрона Неймана-Пирсона как-то поменялся?:) Вы можете обсоставляться промты, но в результате получите все равно компиляцию из "усреднённого мнения в интернете". Или мнение о конкретной вещи составленное на основе "усреднённого способа составления мнения в интернете". При этом, если пишете по-русски, то сначала переведенную на английский, потом уже "среднее мнение", а ответ опять переводится на русский. Задача мат-лингвистики по формализации русского языка пока не решена:) Но. Средний человек не заметит разницы. Самое забавное в этом то, как оптимизаторы из "серьезных" новостных агенств по всему миру хвастаются тем, как ловко они теперь вместо 20 новостей в день выпускают 120, а поисковики выпускают свои "быстрые ответы". Время, когда нейросети будут генерить любой ответ по материалам сгенерированный другими нейросетями (а другого контента просто не будет или он будет статистически незначим в обучающих выборках) гораздо ближе, чем может показаться:)
@ann_bekjer
Фирменный стиль ИИ. Оченна любит он эти фразочки
Наталья Маркевич
Привет!
Следует отметить, что на первый взгляд может показаться очевидным, однако же если обратиться к контексту, можно заметить нечто, на основании чего можно сделать вывод...
Все быть может, все быть может, только то не может быть, что быть может, быть не может -- остальное может быть
D.Zh
У меня на работе есть младший научный сотрудник, из поколение Z, который все проблемы, вопросы, адресует чату gpt. Своей головой не думает вообще. И по итогам годовой оценки, я з\п подниму чату gpt, а не ему. Мне нужен его мыслительный процесс видеть, а не этого тупого бота! Мне нужны его собственные ошибки, что бы с этим можно было работать и сделать из него человека разумного, а не киборга безмозглого. )))
Павел Потеев
По моей дисциплине опыт применения ChatGPT ровно такой же
Vladimir Ikonnikov
Вау!!! Наконец-то!! И у Вас!! А то я просил ЖыПыТы написать про тропические породы дерева (а в этом я разбираюсь), получал всякую чушь и откровенный хлам, и думал что только мне не повезло и исхуйственный интеллект мне не может помочь. А вокруг все вовсю его юзают...
Vladimir Ikonnikov
Проблема в том, что репостинг этой чуши ещё больше увеличивает критическую массу поверхностной (в лучшем случае), а в худшем - ошибочной информации. И тогда Тырнет окончательно потонет в посредственности и дезинформации...
Vladimir Ikonnikov
Yury Pimenov
Либо мы забыли о том, что все таки правильно построенный промт - залог успешного ответа )
Для художественных текстов ещё ладно. Но когда мне надо было написать описание породы дерева, а чат мне выдавал неправильные значения твердости и области применения, это не в запросе проблема, а в том что чат собирает инфу и в нормальных источниках, и там где автор не очень разбирается в теме. Последних гораздо больше, так что у чата по законам охлократии получается что они правы... Но каждая порода дерева все равно упрямо даёт твердость как по природе заложено, а не так как думают копипастеры 🤭
Константин Кутузов
Внезапно))) блин ну это же очевидно
Mikhail Surnameless_One
Господи, после истории с картами метро, ещё кто-то вообще считает Артемия Лебедева дизайнером?
Присоединиться к обсуждению →

Читайте так же