Любителям киберпанка - к прочтению обязательно.
Аллах Акбар
Что чувствует компьютер, когда его апгрейдят? Когда выключают из сети, отсоединяют провода, вытаскивают те или иные микросхемы, заменяя их потом другими? Когда то, что он считал своими сильными сторонами - красивую графику, вычислительную мощь, емкие диски, и т.д. - вдруг перестает функционировать.
Siberian tiger
Сначала компьютеры выиграли у нас в интеллектуальные шахматы.
И все принялись пугать друг друга «терминаторами».
Затем яйцеголовые учёные предсказали победу сборной роботов над сборной людей в чемпионате мира по футболу 2050 года.
И все принялись пугать друг друга «терминаторами».
Потом компьютеры научились общаться и понимать язык людей.
И никто особо не испугался.
Человек всегда знал, что делает его человеком – способность к самовыражению, творчеству. Культура, искусство, письменность – это краеугольные грани нашей цивилизации, на которых зиждется подёрнутый плесенью веков интеллектуальный и технологический фундамент. Я мыслю – значит существую? Оставьте это наивным философам древности. Я мыслю и творю – вот значит и существую.
Исходя из этого, мне особенно странно смотреть на мир сейчас. Компьютеры уже перешагнули последнюю грань, отделяющую разумных существ от неразумных, но по улицам не носятся религиозные фанатики с криком «они пришли из серверной!!», а правительство страны не принимает экстренные законы по запрету на общение с кофеварками. Мир, вроде, ничего и не заметил. А в то же самое время компьютеры научились писать стихи и романы, сочинять музыку и творить живопись. Без компьютерного моделирования не обходятся больше архитекторы, художники и студенты физмата. Мы всё чаще заменяем собственные мыслительные процессы синтетическим суррогатом компьютерных моделей. И что?
Только чувства, мысли и переживания делают реальность реальной. Подчас, гениальная картина художника кажется нам почти живой, в то время как мир вокруг неё бледнеет, приобретая черты заезженного чёрно-белого фильма. Творчество – квинтэссенция человеческих эмоций, концентрированные переживания, мысли, чувства. Эмоции эволюционно определяют возникновение человеческого интеллекта. Более того, они во многом помогают идентифицировать саму разумную жизнь. Американские учёные провели интересный эксперимент: в группу детей от года, занятых игрой, внедрили куклу ребёнка, способную издавать смех, плачь, двигать конечностями. Дети охотно включали куклу в игру и пытались общаться с ней (!), когда она смеялась или плакала, но тут же теряли к ней всякий интерес, стоило экспериментатором выключить игрушку. Дети отказываются считать себе подобным существо, не выражающее эмоции.
Только сильные эмоции могут оживить материю и вдохнуть в неё божественную искру жизни. И когда эти чувства начинает испытывать компьютер, мне кажется, что реальность существования разумных существ ставится под сомнение. Какие ещё доказательства жизни следует привить компьютерам, прежде чем мы убедим себя, что они способны мыслить и сопереживать?
Начиная с 60-х гг. XX века человек пытался научить компьютер получать не только решения интегральных уравнений, но и создавать искусство, в классическом, духовном понимании. Компьютер может писать стихи просто рифмуя слова, но никакой смысловой нагрузки, за редким случайным совпадением, полученный «шедевр» не несёт. Сравнивая самую совершенную программу «генератора стихов» и бездомного поэта из «союза последних великих поэтов» мы по-прежнему вынуждены отдать пальму первенства человечеству. Причина нашего временного преимущества над программами заключается в том, что помимо контекстной информации люди обмениваются информацией эмоциональной, включающей сложный спектр показателей: от неявных метафор, до невербального общения. Однако, компьютер, понимающий эмоции – это дело не «будущего завтра», а «сегодняшнего вечера».
Программы постепенно начинают понимать невербальную информацию, которую человек усваивает на подсознательном уровне. Первый шаг в этом направлении сделали японские учёные, создав программный комплекс, анализирующий эмоциональное состояние собак на основе лая. В результате эксперимента были получены несколько десятков эмоциональных состояний («хочу гулять, играть, есть и т.д.»), правильно распознанных в 76 % случаев. Аналогичные показатели у человека не превышают 40 %. Как видим, в деле распознавания эмоций, программы могут показать результат лучше человека.
Сегодня для выводов об эмоциональном состоянии компьютер использует не так уж много параметров: пульс, влажность и электрическое сопротивление кожи, напряжение лицевых мышц, выражение лица в целом и ряд других. С каждым годом количество параметров анализа увеличивается (из новых отметим появление сенсора запахов) – повышается и точность результатов. Через десять лет (по самым пессимистичным прогнозам) мы получим компьютерную программу, способную распознавать эмоции человека с вероятностью 98 %. Данный показатель позволит программе генерировать эмоции самостоятельно. Искусственная эмоция окажется по качеству изготовления выше оригинала. Не это ли будет последним, гениальным решением теста Тьюринга в обход всех современных методик?
Наличие у программы идеального имитатора эмоций или, как принято говорить, «человеческого интерфейса» не делает её «искусственным интеллектом». Речь не идёт о сознательном мышлении. Но в конечном итоге мы понимаем, что сознательное мышление не показатель разумности. Вы можете общаться с кофеваркой, если она отвечает. Вы можете считать типичную блондинку существом с разумом муравья. И в первом случае видеть перед собой вполне разумное, хоть и искусственное создание, а во втором – механический запрограммированный аппарат.
В конечном итоге главное не то, каков объект на самом деле. Главное как мы его воспринимаем. А восприятие у людей проходит в первую очередь через эмоции, вербальное и не вербальное общение. Если объект способен эмоционально реагировать на наши действия, значит он разумен. В той степени, которую мы сами для него определим.
Эмоции, которые делают живое живым, очень легко подделать. Умение имитировать чувства, определяемые ситуацией, дана людям в разной мере. Одни могут идеально «играть» не переживаемые внутренние чувства, другие не в силах освоить простые методики имитации чувств по Дейлу Карнеги. Находясь в театре или смотря высококачественный фильм, мы чаще всего верим в реальность каждого чувства, переживаемого актёром. Изобразить гнев, любовь, радость, печаль, оказывается, просто, но и ещё проще сымитировать.
Когда собака виляет хвостом и спешит облизать вам ноги, будьте уверены – она выражает радость и преданность. Улыбка и поцелуй любимой девушки может скрывать затаённую ненависть и желание отомстить. Так если мы наделим компьютер эмоциями, пусть механическими, не попадём ли мы в ловушку собственного разума? Иллюзия остаётся реальной до тех пор, пока мы в неё верим, какой бы безумной она не казалась.
Известный тест Тьюринга до недавнего времени не прошёл ни один суперкомпьютер. В битве суперлогичности против человеческого интеллекта, человек естественно определял искусственность мышления «собеседника». Но что если мы смоделируем приливы и отливы эмоций у процессора? Сможет ли неподготовленный человек противостоять смайликам, расставленным после удачной шутки, и гневным рожицам, венчающим оскорбительное предложение? Я знаю нескольких людей, которые нашли ответ на этот вопрос. Речь идёт о несчастных, поддавшихся провокациям со стороны ICQ-ботов. Можно отшутиться по поводу интеллектуального багажа некоторых пользователей, но нельзя оспаривать факт: мы не видим разницы между реальными эмоциями и имитацией.
Компьютеры УЖЕ могут рассмеяться на удачную шутку, а некоторые программы сами сочиняют анекдоты (не смешные, но кому-то по душе . Чтобы привить компьютеру чувство юмора, учёные университета Цинцинати создали базу данных слов из детского лексикона для упрощения итоговой задачи. В дальнейшем была создана база примеров того, как одни и те же слова меняют свое значение в зависимости от контекста. Наращивая базу данных по примеру воспитания детей, учёные смогли добиться высокой релевантности распознавания юмора во взаимосвязанных фразах.
В Мехико специалист по компьютерным технологиям Рафаэль Перес-и-Перес разработал компьютерную программу, способную создавать художественные произведения на основе собственных сюжетов. Программа отталкивается от имеющихся характеристик индивидуальных свойств персонажей и эмоциональных связей между ними. На основании выбираемых из памяти вариантов логичного развития событий при данных характеристиках компонентов системы формируется очередной поворот сюжета, после чего цикл повторяется. Например, программа начинает работу с такими данными: «Враг поранил рыцаря, принцесса вылечила рыцаря, рыцарь убил врага, рыцарь наградил принцессу. Конец». Программа обозначает персонажей переменными и придает численные значения от -3 до 3 их эмоциональным связям, которые делятся на любовные и не любовные. Таким образом, -3 означает интенсивную ненависть, а 3 - сильную любовь.
Новые события для биографии своих персонажей программа подгружает из соответствующей библиотеки. Если программа признает свой текст скучным или недостаточно последовательным, она меняет отдельные повороты сюжета до тех пор, пока результат редактуры не будет иметь хороших параметров.
Для проверки качества работы программы было проведено интернет-соревнование между текстами, выработанными Mexica, человеком и программами-конкурентами. Как сообщается, продукты Mexica получили наивысшие оценки читателей по таким критериям как развитие сюжета, логичность последовательности действий. В текстах эмулятора писателя читатели также отметили наилучшую структуру, содержание, максимальный саспенс и самое высокое «общее качество». Программа «понимает» основу логических связей человеческой эмоциональности. И способна воспроизводить требуемые последовательности с максимальным качеством. Многие люди на такое не способны.
В результате мы видим мир, в котором грань между программами и человеком заключается в том, что последние ходят в магазин за кефиром, а первые в этом не нуждаются. Мир не «интеллекта», а «интеллектуальных эмоций». Преимущества – создание «абсолютного дружеского интерфейса», когда программа сама всему научит, подскажет, объяснит, общаясь с человеком на эмоциональном уровне. Воспроизводство систем, способных чётко реагировать на нестабильность эмоциональных факторов. Протоаналоги подобных систем существуют уже более тридцати лет – так называемые детекторы лжи. Сегодняшние «детекторы лжи» могут выявлять проявления практически всех видов человеческих чувств: от страстной любви до панического ужаса. Отклонение эмоционального состояния от определённого «необходимого уровня» позволит выстраивать системы безопасности на абсолютно новых критериях. Админ нервно курит и ходит кругами по серверной? Срочно повышаем политику безопасности до наивысшего уровня. Капитан ядерной подводной лодки целый день ходит хмурый и нервно массирует виски – глушим ядерный реактор. Программы, распознающие эмоциональное состояние, способны предугадывать поведение человека и действовать превентивно. Что очень важно в критических и экстремальных ситуациях.
В той же степени возможны проявления негативных последствий. Первое, что приходит на ум, растворение социального «Я» человека в сетях, переполненных эмоционально разношёрстным кибер «разумом». Не стоит забывать о всеми нами любимой хакерской угрозе. Современные боты уже в какой-то степени пригодны для сбора конфиденциальной информации у неквалифицированных пользователей. Эмоциональные боты будут в состоянии влюбить в себя специалиста ФАПСИ. Единственный тест, который они не смогут пройти, встреча в реальности.
Всё же я смотрю в будущее с оптимизмом. Электронные эмоциональные технологии – это технологии, которые реально, без особых финансовых затрат, способны решить наиважнейшую задачу 21 века – создание искусственного интеллекта. Фактически речь об «интеллекте» не идёт. Разработка ведётся в области грамотной имитации. Что больше соответствует жизни людей.
В социуме люди не способны самостоятельно адекватно оценивать интеллектуальный уровень друг друга. Для этого они используют вспомогательные средства, например, тест на IQ. В то же время, низкий уровень «интеллектуальных показателей» не гарантирует отсутствие разума, дееспособности, адекватного существования. У Джорша Буша-младшего самый низкий IQ среди президентов США. Большинство менеджеров среднего звена в Москве безграмотны и без Word не способны безошибочно написать от руки текст из восемнадцати предложений. Но это не помешает Джоржу Бушу или московскому менеджеру понять степень эмоционального напряжения человека, рвущего газетный лист на длинные полосочки (хотя насчёт Буша я не уверен).
По тому же принципу эмоциональных соответствий и будет действовать искусственный интеллект. Замечу, что хакеры поняли эту особенность значительно раньше учёных, начав усиленную модернизацию ICQботов. В то время как львиная доля научного мира свято верит, что база нейронной сети в тысячу тысяч петабайт способна сымитировать мозг двенадцатилетнего ребёнка и, может быть, приблизить эпоху сверхразумных ИИ. Что ж, на таком фоне преступно будет удивиться, если первая совершенная эмоциональная программа займётся переводом денег на свой счёт от доверчивых пользователей. Возможно, она уже существует. Вы всех пользователей из своего контакт листа встречали вживую?
www.xakep.ru (c)