В медиа любят сравнивать ИИ с психопатами: оба действуют хладнокровно, без эмпатии и моральных тормозов. Но доктор философии, преподаватель Университета Святого Франциска Ксавьера, Джастин Грегг, уверен, что это сравнение неправильное.
Что объединяет ИИ и психопатов?
И психопат, и ИИ могут казаться «аморальными». Психопат знает правила, но не чувствует вины или сострадания. ИИ — вообще не способен на эмоции, он просто выполняет алгоритм. Ни любви, ни жалости, ни страха — только заложенные параметры. При этом оба умеют имитировать чувства: считывать эмоции, изображать сочувствие, но это лишь внешняя оболочка.
В чем их разница?
- ⏩Психопат — всё-таки человек, он понимает, что делает, осознаёт последствия и способен выбрать нравственный поступок, даже если внутренне его не чувствует.
- ⏩ИИ не рассуждает о морали, не понимает, что такое боль или страдание, просто вычисляет оптимальный вариант по заданным правилам.
Почему ИИ может быть опаснее?
Джастин Грегг считает искусственный интеллект «моральным черным ящиком». Психопат действует осознанно — это уже хоть какая-то предсказуемость. Нейросеть же может принять идеально логичное, но абсолютно бесчеловечное решение. У него нет и никогда не будет собственного понимания добра и зла. Опасность кроется в нашей неспособности увидеть, по каким правилам он принимает решения.
Дискуссия