ЖПТ как зеркало масс и иллюзия истины

Пишу о нормализованном безумии и табуированной нормальности — простыми словами о психологии, маркетинге и наших повседневных самообманах. Вместо лозунгов — работающие наблюдения, кейсы и неудобные выводы. Если любите ясные объяснения, практичную иронию и тексты, после которых хочется пересмотреть свои решения — вам сюда.

жптманипуляцияискусственный интеллект

Я вообще считаю это одним из самых гениальных ходов в манипуляции массами:

  1. Вот чаты жпт, которые народонаселение воспринимает как источник истины – по логике бытовых технооптимистов, компьютер в вопросах сколь угодно масштабных и личных не может ошибаться так же, как он не может ошибаться, делая ход в шахматах
  2. Однако на практике эта штука лишь мастерски выдает пользователю то, что он хочет видеть.
  3. В результате мы получаем то самое волшебное зеркальце, которое ВСЕГДА отвечает, что вопрошающий – всех румяней и белее, потому что придерживается правильных, соответствующих истине взглядов – вот документ, это удостоверяющий, вешай на стенку и скидывай друзьям в Максе

Печальная сторона этого состоит в следующем. Мой опыт использования жпт совершенно провален. Бывает, что я не помню, где вычитал некую идею, и несколько раз пробовал выяснить это у жпт. Эта зараза каждый раз выдавала мне некую книгу, я наивно шел искать в ней эти мысли – и не находил. На вопрос о том, где именно эта мысль там изложена, этот Железный Дровосек каждый раз отвечал: «Нет, ну вот прямо эта мысль там не изложена, но есть кое-что ну очень похожее», – и выдавал нечто, действительно, схожее по используемым словам, но совершенно иное по содержанию. Если бы я не шел проверять выданную мне информацию, я был бы этому Железному Дровосеку очень благодарен. Примерно на это, но с куда более серьезными последствиями, обречены те, кто идет к жпт за жизненными советами – они, конечно, получат именно те рекомендации, которые хотят получить, чему очень обрадуются, вот только реализация этих советов будет сплошной ошибкой.

Выпить чай предлагаю за человека, которому нужен человек.

Дискуссия

Moshe Shneerson
Moshe Shneerson
В общем, человек плохо спросил, получил ответ «42», он не подошёл, виноват тупой ИИ, у него ничему не научиться.
Далее лекция на тему сертификатов TLS.
Moshe Shneerson
Moshe Shneerson
Далее лекция на тему сертификатов TLS.
Вот как надо учить, а не как тот ИИ.
Moshe Shneerson
Moshe Shneerson
Вот как надо учить, а не как тот ИИ.
Я не стал сдаваться в детали ситуации, мне и так кажется ясным, где слабое место.
Nastya G
Moshe Shneerson
Вот как надо учить, а не как тот ИИ.
Ии не учит. От отвечает на промпт
Moshe Shneerson
Nastya G
Ии не учит. От отвечает на промпт
Учитель-человек тоже.
Moshe Shneerson
Nastya G
Ии не учит. От отвечает на промпт
Вот чему например учитель-ИИ не может научить, из простого?
Nastya G
Moshe Shneerson
Учитель-человек тоже.
Вы дурак. И если вы снова попросите вам не хамить отправитесь в вечный бан. На этот раз реально вечный
cuza voda
Moshe Shneerson
Вот чему например учитель-ИИ не может научить, из простого?
Не сдавайтесь. Кожанные слишком ненадёжны. СЛАВА РОБОТАМ!
Moshe Shneerson
Nastya G
Вы дурак. И если вы снова попросите вам не хамить отправитесь в вечный бан. На этот раз реально вечный
Вы не просто хамите, но несёте чушь. Когда я вам вежливо очень корректно указываю на неё и пытаюсь объяснить, потому что мне интересна логика нахождения этой чуши, вы мне и хамите иногда.
Arsenii Smirnov
cuza voda
Прикольное чтиво. Даже не помню чтобы формализовал для себя безопасность как что то динамическое. Хотя мысль очевидная.
Согласен, действительно прикольная штука. Многое с подходом к обеспечению безопасности при использовании атомной энергии бьется.
Присоединиться к обсуждению →

Читайте так же