Сегодня я гуляла по пещере в Гуйлине. Она огромная - десятки залов, миллионы лет работы воды. И вся подсвечена. Каждый сталактит, каждая капля, каждое отражение в воде - голубой, фиолетовый, красный. Красиво до головокружения.
И вот что меня там зацепило. Я видела ровно то, что мне показывали. Без этой подсветки я бы не нашла ни выхода, ни самих красивых мест - вокруг просто темнота. То есть кто-то заранее решил, по какому маршруту меня вести, что подсветить, что оставить в темноте. И я шла как зачарованная.
Через месяц работы с ИИ я стала ловить себя на том же самом. Мне 35, я кандидат наук, восемь лет работы с психологом для саморазвития - я хорошо знаю свою голову. Казалось, меня врасплох не возьмёшь. И всё равно ловлю, себя на том, что от возможности использовать нейросети мозг расслабляется. Не хочется проверять. Звучит ведь убедительно.
Но я постоянно вижу, как ИИ накручивает смысл и часто без опоры на факты. Уверенным голосом и доводами. Только всё это - подсветка по выбранному маршруту. А реальная пещера в десять раз больше того, что освещено.
Ловлю эти ошибки только благодаря собственному опыту и образованию. Если бы у меня этого не было - я бы шла и любовалась, как все.
И это самое страшное для меня в будущем моих детей.
Через 5-7 лет наши дети войдут во взрослую жизнь, где ИИ будет везде. Им будут рассказывать, объяснять, советовать - убедительно и красиво. И единственное, что отделит их от слепого согласия со всем подряд, - это привычка проверять. Они будут, например, советоваться с ИИ, как вести себя с родителями, а однобокая нейросеть считает их тон недовольства нами, и будет их науськивает против нас. Это мой страшный сон.
Я в спешном порядке думаю, как мне объяснить ребенку, как устроено ИИ и показать на примере, что не стоит верить всему, что он напишет…
Но самое важное - как развить критическое мышление ?
А вот теперь почему именно математика. Математика - единственный школьный предмет, где нельзя договориться с реальностью.
В литературе можно интерпретировать, в истории - подбирать факты, в обществознании - выбирать удобную точку зрения. В математике - либо доказал, либо нет. Никаких “звучит убедительно”.
Ребёнок, который десять лет каждую неделю видел, как стройная на вид цепочка рассуждений рассыпается из-за одной ошибки на втором шаге, - такой ребёнок уже не ведётся на гладкость. Он автоматически ищет шов. Это и есть критическое мышление.
Это не “станет лучше учиться в школе”. Это про то, что во взрослой жизни такого ребёнка будет в разы сложнее обмануть. Любой системой - не только нейросетью - маркетингом, политикой, манипулятивными отношениями.
Поэтому когда меня спрашивают: “стоит ли вкладываться в математику если ребёнку гуманитарий” - я отвечаю одно. Стоит. Это самая длинная инвестиция, какую вы можете сделать.
А я иду дальше по пещере. Стараясь смотреть и в темноту тоже.
Дискуссия