Интеллектуальные информационные системы. Дубровин А.Д. - 10 стр.

задачи (например, создает новые материалы, открывает новые месторождения или новые типы
химических или ядерных реакций).
    Другим философским аспектом создания систем, способных решать интеллектуальные
задачи, является ответ на вопрос: с какой целью они создаются? В принципе все, что мы
делаем в практической жизни, обычно направлено на то, чтобы повысить уровень жизни
человечества, освободиться от рутинных видов деятельности, требующих затрат энергии
различной природы. Однако при достаточно высоком уровне жизни (большом количестве
запасенной потенциальной энергии) для человека первую роль играет уже не желания экономить
энергию, а поисковые инстинкты. Допустим, что человек сумел создать систему, интеллект
которой (при решении некоторых задач) превышает его собственный. Что теперь будет с
человечеством? Какую роль будет играть человек? Для чего он теперь нужен? И вообще, нужно
ли в принципе создание таких систем?
    Убедительным ответом на эти вопросы является много веков применяемая на практике
концепция "усилителя интеллекта" (УИ). Она очень проста - президент государства, например,
не обязан знать валентности ванадия для принятия решения о развитии соответствующей
отрасли промышленности. Для этого существуют специалисты: химик разработает
технологический процесс, строитель спроектирует завод, а специалист по системному анализу и
экономист определят рентабельность решения.
    В данном примере президент использует биологический УИ - группу специалистов с их
естественным интеллектом, подкрепленным образованием, знаниями и опытом. Но в своей
практической деятельности человек использует и не биологические УИ - например, мы не могли
бы предсказать погоду без компьютеров и без информации метеорологических станций.
Человек уже давно использует усилители мощности (УМ) - устройства и системы, в некотором
смысле аналогичные УИ. В качестве усилителей мощности ему служат автомобили, подъемные
краны, электродвигатели, прессы, пушки, самолеты и многое другое.
    Основным отличием УИ от УМ является принципиальная возможность первых проявлять
волю, обладать какими то желаниями. Трудно представить, чтобы кузнечный пресс вдруг
«взбунтовался» и перестал подчиняться управляющим действиям мастера. В тоже время, любая
интеллектуальная система, используемая в качестве УИ, вполне могла бы иметь свои желания, и
поступать не так, как нам хотелось бы. Таким образом, с созданием самовоспроизводящихся
автоматов перед человечеством встает еще одна крайне важная проблема - проблема
безопасности. Она будоражит умы еще со времен Карела Чапека, впервые употребившего
термин "робот". Свою лепту в обсуждение данной проблемы внесли и другие писатели-
фантасты. Один из них, А.Азимов сформулировал три закона робототехники, которым должен
безоговорочно подчиняться любой робот, чтобы не представлять опасности для своего творца -
человека.
    Закон первый. Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред.
    Закон второй. Робот должен повиноваться командам, которые ему дает человек, кроме тех
случаев, когда эти команды противоречат первому закону.
    Закон третий. Робот должен заботиться о своей безопасности, насколько это не
противоречит первому и второму закону.
    На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить
безопасность человечества. Однако при внимательном рассмотрении возникают некоторые
вопросы. Во-первых, законы сформулированы на человеческом языке, который не допускает их
простого перевода в алгоритмическую форму. Попробуйте, к примеру, отобразить средствами
любого из известных вам языков программирования смысл такого понятия, как "причинить
вред".
    Даже если предположить, что мы сумели изложить смысл этих законов на языке, который
понимает автомат, являющийся моделью интеллекта, то у нас нет никаких оснований к тому,


                                                                                         14