Умопомешательство робота

Расстояние между людьми и свихнувшимся роботом Спиди быстро уменьшалось. Робот заметив их, остановился как вкопанный. Паулл закричал: «Все в порядке, Спиди! Иди сюда!». В наушниках впервые послышался голос робота: «Вот здорово! Давайте поиграем. Вы ловите меня, а я буду ловить вас. Никакая любовь нас не разлучит. Я маленький цветочек. Ур-ра». Повернувшись кругом, он помчался обратно.

И это отнюдь не такая уж чистая фантазия А. Азимова.

При работе с электронными машинами, действующими не в стационарном, а в поисковом режиме, т. е. в таком, когда автомат в соответствии с изменяющимися внешними условиями, а также «возмущениями» в самом управляемом объекте «самостоятельно» принимает решения, возникают специфические затруднения.

Трудности возрастают, когда в электронном оборудовании, казалось бы, беспричинно, происходят отклонения в работе. Возникающие «сами собой» такие сбои носят случайный характер и позволяют говорить о «поведенческих реакциях». Их образно можно сравнить с неадекватным поведением человека, у которого внезапно проявилось психическое расстройство. Вот несколько примеров.

После взлета космический корабль с Ю. Гагариным

на борту ушел из зоны прямой связи на коротких волнах. Связь стала поддерживаться на длинных волнах в телеграфном режиме, космонавту необходимо было предельно кратко передавать в центр управления информацию: цифра 5 означала, что все идет хорошо, цифра 3 — что космонавту плохо.

Все шло как нельзя лучше — на телеграфной ленте автомат выбивал «пятерку». И вдруг, именно вдруг, аппарат начал уверенно выбивать «тройку». Всех, кто находился в центре управления полетом, словно обдало холодной водой. Встал со стула С.П. Королев. Необходимо было немедленно принимать меры. И в тот момент, когда С.П. Королев принял решение, раздался радостный крик оператора: «Все в порядке! Пошла опять «пятерка»!». Как потом выяснилось, в электронной аппаратуре произошел «сбой», и она по «собственной инициативе» начала выбивать «тройку», которая чуть не «выбила» из равновесия руководителей полета.

В США в 1962 г. из-за «сбоя» в работе ЭВМ пришлось уже в космосе подорвать ракету

которая должна была вывести межпланетную станцию к Венере; этот «сбой» обошелся в 18,5 млн. долл. США.

Специалист по машинной музыке Р.Х. Зарипов после того, как научил машину «Урал» сочинять вальсы, решил научить ее писать марши. Машина капризничала: вальсы писала, а марши — не хотела. «Урал» бунтовал, останавливался, сам включал уже прокрученную ленту программы, крутил ее без конца, моргал своими неоновыми глазами и не выдавал никакой продукции. Причина выяснилась нескоро. Оказалось, что в одной строчке программы вместо числа 1777 «выскочило» 1177.

В научно-исследовательской лаборатории фирмы «Дженерал моторе» «сошел с ума» робот. Он начал делать множество ошибок, «самостоятельно» останавливал работу и также неожиданно

принимался за нее. В течение недели обслуживающий персонал искал причину такого «неприличного» поведения машины, десятки раз проверяя одну систему за другой. Совершенно случайно выяснилось, что у робота «завихрение мозгов» происходило именно в те моменты, когда к нему близко подходила одна симпатичная сотрудница фирмы. Уж слишком фантастичным показалось предположение о том, что робот влюбился; версия подверглась проверке. В конце концов, выяснилось, что краска, которую девушка накладывала себе на лицо, искажала чувствительность фотоэлемента.

Примером «умопомешательства» робота

который пытался нанести телесное повреждение своему создателю, может служить эпизод, который произошел в институте приборостроения. «Однажды, — рассказывает инженер М.М. Захаров, — произошел «сбой» ЭВМ, управляющей автоматической рукой. Рука подхватила меня и стукнула о стену, чуть не убив». На одном из заводов робот «Универсал» в результате сбоя ЭВМ своей железной рукой сдвинул с места станок. В ряде случаев у операторов при таком «ненормальном поведении» автоматических устройств возникали аффективные реакции, а в некоторых — развивались неврозы.

У штурмана П. при полетах на учебное бомбометание отказывал прибор «слепого бомбометания». Вполне исправный на земле, прибор отказывал на определенной высоте, что делало невозможным выполнение задания, вызывая у штурмана реакцию напряженности, досады и раздражения.

Но особенно неприятное переживание возникло тогда, когда при снижении до определенной высоты и возвращении на аэродром прибор вновь начинал работать, что ставило штурмана в крайне неловкое положение. После того как штурман сфотографировал прибор в момент его отказа в воздухе, т. е. «поймал с поличным», была выявлена неисправность прибора и невиновность штурмана.

Но в процессе развития событий поведение штурмана показалось врачам настолько необычным, что он был помещен в госпиталь, где дважды подвергался психиатрическому обследованию и был признан здоровым и годным к летной работе без ограничений. Однако заключение врачей оказалось запоздалым: штурман имевший 1-класс, уже при исправных приборах не смог выполнить задания, «привозя» не сброшенные бомбы на аэродром; его вынуждены были перевести в транспортную авиацию.

В приведенном эпизоде ярко проявились взаимоотношения человека с прибором, обнаружившим, выражаясь образным языком, «черты подлости и коварства». Мы располагаем единичными клиническими наблюдениями, в которых отчетливо прослеживается связь развития невроза с «неустойчивым» поведением прибора. Однако А.И. Тоом в работе «Психологическая комфортность диалога между человеком и компьютером» указывает на то, что аналогичные невротические реакции при отклонениях и «сбоях» ЭВМ встречаются не так уж редко. Многие авторы испытывают чувство досады, когда по непонятным причинам из компьютера «вылетают» куски или целые главы книг, на написание которых ушло много времени; досада и раздражение возникают и тогда, когда компьютер вдруг начинает очень медленно печатать или «отказывается» выполнить ту или другую операцию.

Как показала в своем исследовании А.И. Тоом, к персонификации ЭВМ более склонны интроверты. Для таких программистов и потребителей с нереализованной потребностью в общении ЭВМ становится в субъективном представлении партнером по диалогу. «Сбои» в машине, приводящие к неудаче во взаимодействии с машиной, вызывают у них психологический дискомфорт. В ряде случаев непонимание причин происходящих «сбоев» и ошибок, незнание принципа функционирования системы выступают причиной недоверия к машине, появлению невротических срывов.

В программу психологического отбора при приеме в авиационные училища включена методика

по изучению координации движений и эмоциональной устойчивости абитуриентов. Это исследование проводится с использованием тренажера ДКН (двигательная координация и напряженность), имеющего кресло, ручку и педали самолетного типа, прицел и сигнальное табло. Кресло с помощью электромоторов может поворачиваться вокруг вертикальной оси, а также наклоняться вверх и вниз в соответствии с управляющими движениями испытуемого ручкой и педалями. На табло, установленном впереди кресла, нанесены контрольные кривые. Испытуемый, осуществляющий так называемое преследующее слежение, должен так управлять креслом, чтобы прицелом описывать эти кривые с заданной скоростью; чему соответствует движение «светолидера». Ошибки в управлении регистрируются по точности слежения за «светолидером». Во время выполнения этого задания с помощью аппаратуры регистрируются вегетативные реакции. Данное исследование, как и другие, для абитуриентов личностно значимы.

В ходе проведения одного из зачетных исследований в системе управления тренажером неожиданно возникли неполадки: какой-то промежуток времени кресло двигалось «самостоятельно», описывая незапрограммированную кривую. Прилагаемые абитуриентом усилия следовать за «светолидером» не приводили к нужным результатам. Эта «поведенческая» реакция прибора вызвала резкое эмоциональное напряжение у исследуемого. На щеках у него появились желваки от сильного сжатия челюстей, лоб покрылся капельками пота. Частота пульса, количество дыхательных циклов резко возросло, изменилась кривая кожно-гальванического рефлекса, артериальное давление поднялось до 170/95 мм рт. ст. (при исходном 115/70).

При остановке аппарата абитуриент проявил чувство досады и раздражения

выразившееся в соответствующих резких, эмоционально окрашенных фразах в адрес машины. Незапрограммированный эксперимент позволил выявить некоторое сходство с «самопроизвольным поведением» прибора слепого бомбометания у штурмана П. и развития у него невротического состояния. В последующем в некоторых случаях в исследования стали вводить неожиданную «поведенческую реакцию» аппарата в качестве «критического эксперимента». Такие исследования были проведены на 67 абитуриентах; из них 64 человека на «самопроизвольное поведение» прибора дали незначительный «всплеск» вегетативных показателей. Они довольно быстро сообразили, что произошел отказ в работе прибора и после неудачных попыток прекращали работу.

И только трое дали резкую эмоциональную реакцию, по своей картине близкую к описанной. Причем следует подчеркнуть, что эти испытуемые успешно работали на тренажере в предварительных опытах, а также при воздействии достаточно болезненных ударов тока (электрораздражение включалось при ошибках в работе), показав высокую эмоцио­нальную устойчивость и хорошую координацию. Все обследуемые так или иначе словесно реагировали на отказ аппарата, но по их высказываниям провести дифференциальную оценку испытуемых не удалось.

Однако в последующем анализе выяснилось, что именно те испытуемые

у которых наблюдались выраженные эмоциональные реакции, дали своеобразную оценку ситуации, обвиняя аппарат с элементами агрессии, обиды и досады. Все остальные, если и обнаруживали досаду, то без оттенка персонализации, т. е. наделения аппарата чертами характера человека, справедливо видя причину в случайной или нарочитой его неисправности.

Таким образом, не у каждого оператора могут развиваться невротические реакции при различных «сбоях» в автоматических системах, что можно объяснить характерологическими особенностями, а также знанием или незнанием принципов работы ЭВМ.

Как в борьбе с мистическими предрассудками для человека необходимы знания о реальных связях, существующих между различными явлениями в природе и обществе, так и в борьбе с персонификацией автоматов необходимо, чтобы оператор не только знал, как эксплуатировать тот или иной прибор или ЭВМ, но и достаточно хорошо представлял принципы их работы.

На профилактике психоневрологических расстройств операторов

мы так подробно останавливаемся не случайно. В методике подготовки пользователей ЭВМ в некоторых отраслях промышленности и транспорта наметился следующий подход: поскольку в случае поломки оператор не может исправить электронную аппаратуру, то его необходимо учить только тому, как работать с ней, точно так же, как пользователя бытовой электронной аппаратурой. Купив телевизор, мы не изучаем его устройство, а только овладеваем простыми навыками его включения и настройки, и в случае его неисправности приглашаем мастера из телеателье.

Опыт убедительно показывает, что подобный подход к обучению оператора не оправдан. Оператору необходимо не только считывать информацию на выходе прибора и реагировать на нее определенными действиями, но и понимать хотя бы в общем виде ход всех преобразований информации в машине, пусть даже если он не может устранить неисправности в случае отказа автомата.

Совершенно правильно подходят к этой проблеме в ВВС, где летчики получают высшее инженерное образование, не участвуя в ремонте самолетного оборудования.