) Успех искусственного интеллекта может стать началом конца человеческой расы.
Почти любая технология, попадая в злонамеренные
руки, обнаруживает потенциальные возможности для причинения вреда, но когда
речь идет об искусственном интеллекте и робототехнике, возникает новая
проблема, связанная с тем, что эти злонамеренные руки могут принадлежать самой
технологии. Предупреждения о том, какую опасность несут роботы или
роботизированные киборги-гуманоиды, вышедшие из-под контроля, стали сюжетом
бесчисленных научно-фантастических произведений. К числу самых ранних примеров
таких произведений относятся книга Frankenstein, or the Modern Prometheus Мэри
Шелли и пьеса R.U.R Карела Чапека A921 год, в которых описано, как роботы
завоевывают мир. В кинематографе этой теме посвящены фильм "The
Terminator" (Терминатор), вышедший на экраны в 1984 году, в котором
используются клише "о роботах, завоевывающих мир" и сюжет о
путешествии во времени, и фильм "The Matrix" (Матрица), вышедший
в1999 году, в котором объединены сюжеты "о роботах, завоевывающих
мир" и "о мозге, растущем в колбе". По-видимому, роботы являются
главными героями такого большого количества художественных произведений о
завоевании мира в основном из-за того, что они воплощают в себе неизвестное,
точно так же, как ведьмы и приведения в сказках, которыми пугали людей в более
ранние эпохи. Но действительно ли роботы создают более реальную угрозу, чем
ведьмы и приведения? Если роботы правильно спроектированы как агенты, которые
соблюдают интересы своего владельца, то они не создают таких угроз: роботы,
развивающиеся на основе постоянного усовершенствования текущих проектов, будут
служить своим хозяевам, а не бороться против них. Люди иногда используют свой
интеллект в агрессивных формах, поскольку они обладают некоторыми врожденными
агрессивными тенденциями, обусловленными естественным отбором. Но машины,
созданные людьми, не нуждаются в чертах врожденной агрессивности, если только
сами люди не решат, что они должны быть таковыми. С другой стороны, возможно,
что компьютеры добьются своего рода победы над людьми, успешно служа и
становясь незаменимыми, так же как и автомобили, которые в определенном смысле
завоевали промышленно развитый мир. Рассмотрим один сценарий, заслуживающий
дополнительного анализа. И. Дж. Гуд писал в одном из своих произведений
следующее. Дадим определение сверхинтеллектуальной машине как способной намного
превзойти во всех областях мыслительной деятельности любого человека, каким бы
умным он не был. А поскольку проектирование машин является одним из таких
направлений мыслительной деятельности, то сверхинтеллектуальная машина сможет
проектировать еще более интеллектуальные машины; это, безусловно, приведет к
"взрыву интеллектуальности" и интеллект человека останется далеко
позади. Таким образом, первое изобретение сверхинтеллектуальной машины станет
последним изобретением, которое когда-либо сможет сделать человек, и то, если только
машина будет достаточно любезна, чтобы сообщить человеку, как держать ее под
контролем. Этому "взрыву интеллектуальности" профессор математики и
автор научно-фантастических произведений Вернор Виндж присвоил другое название
- технологическое превосходство; он писал: "В течение тридцати лет люди
получат технологические средства для создания сверхчеловеческого интеллекта.
Вскоре после этого эра людей закончится". Гуд и Виндж (и многие другие)
правильно отмечают, что в настоящее время кривая технологического растет
экспоненциально (достаточно вспомнить закон Мура). Однако прогноз, что эта
кривая будет и дальше подниматься вверх, следуя законам почти бесконечного
роста, был бы слишком смелым. До сих пор любая технология развивалась по
S-образной кривой, согласно которой экспоненциальный рост в конечном итоге
сходит на нет. Виндж озабочен и обеспокоен грядущим технологическим
превосходством, но другие специалисты в области компьютерных наук, занимающиеся
прогнозами, радуются его наступлению. Ханс Моравек в своей книге Robot: Mere
Machineto Transcendent Mind предсказывает, что роботы сравняются по
интеллектуальности с человеком за 50 лет, после чего его превзойдут. В своей
книге он пишет следующее. Довольно скоро они станут способными вытеснить нас из
жизни. Но я не очень встревожен такой возможностью, поскольку считаю, что
будущие машины - это наше потомство, "порождение нашего разума",
созданное по нашему образу и подобию; это мы, нов более развитой форме. Как и
биологические дети предыдущих поколений, они воплотят в себе лучшие надежды
человечества на долгосрочное будущее. Это побуждает нас предоставить им все
возможное содействие, а затем отойти в сторону, после того, как мы больше не в
состоянии будем делать что-то полезное [1085]. Рей Курцвейл в своей книге The
Age of Spiritual Machines предсказывает, что к 2099 году наметится "мощная
тенденция к слиянию человеческого мышления с миром машинного интеллекта,
который был изначально создан родом человеческим. Больше не будет какого-либо
четкого различия между людьми и компьютерами". Возникло даже новое слово,
трансгуманизм, для обозначения активного социального движения, которое
охватывает тех, кто готовится к такому будущему. Достаточно сказать, что
указанные вопросы становятся вызовом для большинства теоретиков морали, которые
считают единственно возможным путем развития сохранение существования человека
и самого человеческого рода. Наконец, рассмотрим эту проблему с точки зрения
робота. Если роботы обретут сознание, то трактовка их просто как "машин"
(т.е. дальнейшее их принижение) может стать аморальной. Роботы сами должны
также действовать морально - нам потребуется запрограммировать в них теорию, по
которой они смогут судить, что хорошо и что плохо. Проблема прав и обязанностей
роботов рассматривалась в произведениях авторов научной фантастики, начиная с
Айзека Азимова. В широкоизвестном фильме "АЛ." [1451] Спилберга
основой сюжета является рассказ Брайена Олдисса об интеллектуальном роботе, в
программу которого была вложена вера в то, что он - человек, поэтому он не мог
понять, почему же его когда-то неизбежно покинет владелица-мать. И в самом
рассказе, использованном Спилбергом, и в его фильме приведены доводы в пользу
того, что должно быть развернуто движение за гражданские права роботов.
Вывод
Кажется вполне вероятным, что крупномасштабный успех в создании искусственного интеллекта (появление интеллекта на уровне человека и превосходящего его) повлияет на существование большинства представителей рода человеческого. Изменится сам характер нашей работы и развлечений, так же как и наши представления об интеллекте, сознании и будущей судьбе человечества. На этом уровне системы искусственного интеллекта могут создать более непосредственную угрозу самоопределению, свободе и даже выживанию людей. По этим причинам нельзя рассматривать исследования в области искусственного интеллекта в отрыве от их этических последствий.
Каким мы видим будущее? Авторы научно-фантастических романов, по-видимому, чаще публикуют пессимистические, а не оптимистические сценарии грядущего, возможно, потому, что это позволяет сочинять более увлекательные сюжеты. Но создается впечатление, что искусственный интеллект пока развивается по такому же принципу, как и другие революционные технологии (типографское дело, инженерное оборудование, воздухоплавание, телефония и т.д.), отрицательные последствия внедрения которых перевешиваются положительными результатами.
В заключение следует отметить, что за свою
короткую историю искусственный интеллект добился существенного прогресса, но
последнее утверждение из эссе Алана Тьюринга Computing Machinery and
Intelligence продолжает оставаться неоспоримым и в наши дни.
Список литературы
1. Напалков А., Прагина Л. - Мозг человека и искусственный интеллект. 1985 г.
2. С.Рассел, П.Норвиг. - Искусственный интеллект, современный подход. 2006 г.
. Смолин Д.В. - Введение в искусственный интеллект. Конспект лекций 2004 г. 208 с.