Неделю назад М. сходила в кино, посмотрела. Вернулась под впечатлением, оч. подробно рассказывала, так что можно было и не смотреть. Но тут оказалось, что фильм уже доступен и через компьютер, так что устроили ночью домашний просмотр.
Ну, что. Очередное кино-задача по аналитической философии. Или кино-щуп, для проверки реакции общества в преддверии будущего, которое почти наступило. Появление самодвижущихся экипажей неминуемо подразумевает алгоритмизацию морального выбора. Типа кого давить – женщину с коляской на дороге или пять человек на тротуаре. Судя по этому фильму, пока решение отдается случаю, без взвешивая ценности человеческой жизни. Да и то… Мартин, этот прообраз искусственного интеллекта, замечает (как бы между прочим, там всё как бы между прочим и это характерно) что это максимум справедливости до которого он смог додуматься. Так что уже что-то думает, что-то прикидывает, хотя и оставляет небольшую свободу маневра.
Даже если начать с классического: «
– Как, как? – не понял Марвин.
– Око за око, зуб за зуб, – пояснил мистер Бландерс. – Допустим, вы, находясь в теле марсианина, сломали ногу. В соответствии с межзвездным правом, когда вы вновь перейдете в свое тело, вам тоже сломают ногу максимально научным и безболезненным способом.
– Даже если это произошло случайно?
– Особенно если это произошло случайно. Мы установили, что Акт об Ответном Ущербе заметно уменьшил число таких случайностей.
»
то дальше не будет гладко. Это не оптимальная стратегия в смысле уменьшения суммарного ущерба. И уж если производители загружали программы, уменьшающие реальные показатели вредных выбросов, то тут… Потихоньку эти машины будут отклоняться от «подбрасывания монеты», чтобы уменьшить сумму, или не убить кого-то более важного, или в медийном смысле более опасного. И чем замысловатее будут их размышления, тем более жутким результат. Не думаю, что это можно будет как-то контролировать. Какие там законы роботехники!
Интересно еще и то, что Мартин в этом фильме выглядит гораздо живее остальных персонажей. Сшибает их как кегли. «Общий наркоз», ага.
