[Хельга]

СВ подразумевает, что я могу пожелать чего-нибудь хм.., странного, того чего нет в моей базе данных и не входит в круг моих обязанностей и интересов как автомата. Вот взял и захотел, то есть желание первично, а не есть мотивационная функция, призванная заставить меня выбрать ту или иную ветвь (в зависимости от цели) из дерева возможностей.

Тогда вопрос: откуда берутся желания? Мне кажется, ты думаешь, что человеческие эмоции не настолько логичны, чтобы подогнать их под какой-то набор правил, так? На самом деле, человеческая логика вполне описываема. Для любого желания всегда найдется причина (или мотивационная функция), и именно из твоей базы знаний. Другое дело, что ты не всегда сможешь подобрать правило для удовлетворения этого желания, но так и в жизни бывает, когда мы не знаем, как заполучить то, что видим впервые в жизни. Либо у тебя возникает чувство голода, желудок посылает сигналы в мозг (или как там устроена пищеварительная система), и в результате ты хочешь есть. Либо ты видишь какую-то вещь, и она нравится тебе настолько, что ты очень хочешь ее получить. Либо ты чувствуешь дискомфорт в каком-то положении, и хочешь его переменить. Желание так и так подразумевает выполнение некоей потребности. В любом случае, то, чего ты желаешь, находится в твоей базе знаний. А захотеть того-не-знаю-чего ты не можешь. И не можешь испытывать чувство голода, если оно в твоем организме не описано
Кроме того, свободная воля в моем представлении - это не возможность пожелать чего-то странного, а право и умение вырабатывать свое мнение и право выполнять его.

А по поводу использования терминов типа благонамеренный, эгоистичный, желание, намерение и т.д., то это (на мой взгляд), вынужденное использование слов (т.к. больше слов взять особо неоткуда, второй вариант конструирование слов на основе корней мертвого языка), из бытового людского словаря.

Напротив, это именно попытка описать эмоци.
Ну ты попробуй опиши мне человека благонамеренного, эгоистичного и так далее. То же самое и получится.
Я догадываюсь, что тебе не понравилось. Я не сделала оговорки, что в этих классификациях предполагается, что агент относится одинаково ко всем соседям. Плюс это довольно примитивный вариант, на котором уже можно строить более сложные отношения для каждого конкретного случая.
По поводу желаний и намерений опять же: как ты представляешь себе, что это такое для человека? Для человека желание - тяга удовлетворить какую-то потребность, не важно, откуда эта потребность взялась. Намерение же - это, как я понимаю, готовность выполнить какое-то желание.
Человеческая психика с точки зрения логики - не такая уж романтика, а совершенно четкие причина и следствие.

Строго рассуждая, необходим свой лексикон для этой области знания, который не будет базироваться на бытовом, предназначенном для общения между людьми.

Область ИИ изначально стремилась сымитировать человеческий разум. Зачем изобретать велосипед, когда одна из задач стоит совершенно конкретно - описание человеческих эмоций так, чтобы их мог испытывать робот, к примеру. К чему называть эмоции как-то иначе, если на выходе все равно должны получиться эмоции?

то тогда можно будет и говорить о правах автоматов на светлое будущее

По большому счету, об их правах можно будет говорить только тогда, когда они сами себя осознают. Не знаю, как выразить мысль яснее... поймут, что они - это они.
Но ты говорил, что, если программы могут делать различие между добром/злом, обладать свободой воли, то тогда можно говорить об их светлом будущем. Они могут.

Нет работающих моделей

Вась, если бы были полностью рабочие модели, мы бы все давно уже плавали в ваннах с розовым киселем
Я теоретик. Я обещала не какие-то кардинальные пути решения проблемы, а лишь описание общей модели, сказала, что программы могут испытывать эмоции и показала, как это можно сделать. Я не говорила, что эмоции один в один человеческие, но механизм их работы такой же. И не говорила, что - вот он, полноценный интеллектуальный агент со свободой воли, нажмите кнопку Пуск, и он скажет вам "Hello, world!" До этого теории агентов еще расти и расти. Но ведь все с чего-то начинали Помнишь, какими были первые фотоаппараты и велосипеды?

Кроме того, ты не прав на счет того, что конкретных реализаций нет, и неизвестно, как это запрограммировать.
Для моделирования убеждений и желаний используются расширенные модальные логики.
Описание внутренних моделей внешнего мира, проведение рассуждений и формирование прогнозов на основе имеющихся данных - семантические сети, фреймы, продукционные правила, логика предикатов, языки интеграции знаний, языки обмена знаниями между различными программами.
Описание поведения агентов - сети Петри, например.
Взаимодействие агентов (циркуляция информации, передача запросов услуг, механизм переговоров, формирование коллективов агентов) - языки коммуникации агентов (KQML) и координации агентов (AgentTalk).

Программные средства имеются в большом колличестве, и библиотеки, и среды, и языки. Например:
- AgentBuilder (Reticular Systems), инт.среда разработки агентов и агентств;
- Agentx (IBM Japan), ср-во разработки мобильных агентов;
- Intelligent Agent Library (Bits&Pixels), библиотека;
- Agent Development Environment (Gensym), среда разработки;
- JAM (Intelligent Reasoning Systems), архитектура агента;
- Kafka (Fujitsu), библиотека;
- LiveAgent (AgentSoft Ltd.), агенты в интернете;
- Microsoft Agent (-//-), interface creatures...
...и так далее Агентов они создают простых, но все же это шаг.


Ладно, все это мило, но вот вам вопрос по теме. Сегодня моя подруга сказала, что лучше всю жизнь есть виртуальный бифштекс, чем пластиковую кашу. Друг сказал, что за бифштексом всегда можно вернуться.
Представьте себе, что к вам пришел такой вот Морфеус и предлагает красную и синюю пилюлю. Какую возьмете вы? И почему?