[Vasya Gondorsky]

Проблема в свободе воли и самоопределении машин в том, что мы сами не знаем, обладаем ли мы свободой воли и что такое сознание. Пока эта проблема не разрешена (а неизвестно, будет ли она разрешена вообще когда-нибудь), говорить о том же применительно к машинам несколько странно.
Хельга, я тоже теоретик в этой же области, но у меня скорее скептическое отношение к успехам наук об искусственном интеллекте. Безусловно, сложно переоценить ту роль, которую они сыграли в создании современной цивилизации, но первоначальня цель - сымитировать человеческий разум - оказалась гораздо сложнее, чем считалось вначале. Никакие механизмы представления знаний до сих пор не дают удовлетворительный результат. Да что говорить - сама психология всего этого находится пока только на уровне гипотез. Есть достаточно примитивные модели принятия решений, эмоций, представления знаний, но они совершенно не тянут на соответствие реальности. А объявлять модель реализацией некорректно. Конечно, не проблема задать вероятностный автомат, который будет в некоторых случаях говорить, что ему "страшно", а в некоторых - что он "испытывает угрызения совести", но, согласись, это не то же самое, что создать программу, которая думает как человек.