Я долгое время в академической обстановке исследовала угрозы, и вот один из самым неочевидных и сильных выводов, к которым я приходила: восприятие обществом угроз крайне сильно сопряжено с чувством справедливости. Угрозы, не являющиеся экзистенциальными, часто могут восприниматься таковыми, если они нацелены на что-то сокровенное: на наш образ жизни, на нашу базовую систему координат. Более того, за наступление наихудших событий нам нужно видеть кого-то виновным.
📍Если беспилотный автомобиль сбивает человека - кого семья пострадавшего будет считать ответственным?
- Разработчика, создавшего несовершенную технологию,
- Бизнес, не обеспечивший должных проверок до масштабирования,
- Государство, допустившее беспилотное авто до публики?
📍Если бы за рулем был человек, всё было бы несколько проще. Конечно, человек за рулем не всегда влечет воспринимаемую безусловную вину водителя: у самого авто тоже может быть сбой, дороги могут быть не очищены от наледи, и т.д. Но при таком раскладе ни один “нечеловек” не наделен автономией, которой мы привыкли наделять только людей. Авария с пострадавшим - событие с моральными последствиями и моральной ответственностью. Кто должен понести ответственность и принять последствия в случае автономного другого? Кого считать виновным?
- Технологию - непривычный расклад, видеть в технологии носителя морали.
Думаю, если не уходить в размышления о власти роботов, сингулярности и прочих антиутопичных последствиях создания ИИ, именно в вопросе неопределенности ответственности заключается воспринимаемая угроза интеллектуальных технологий. Мы на уровне интуиции и инстинктов не можем постичь невозможность обвинения за материализацию угрозы. Но видится, что наша ментальность будет меняться, ведь человек не реже ИИ принимает решения, далёкие от рационального оптимума. Мы уже привыкли к абстрактному доверию технологиям, которых не понимаем. Градус абстрактности доверия будет лишь повышаться.