Портрет робота в современной
культуре
культуре
Шитова Анастасия Сергеевна — магистрант ФилФ «Современная мировая литература и электронные медиа».
Роботы как вымышленные герои. Антропоморфные и не совсем, но близкие к человеку.
В 1900 году Фрэнк Баум в своей сказке «Удивительный волшебник из страны Оз» создал образ Железного Дровосека, который путешествовал с девочкой Дороти и её друзьями в надежде в конце этого приключения обрести сердце.
Некогда он был обычным человеком и собирался жениться на своей возлюбленной, но против их свадьбы была тётка его невесты. Чтобы расстроить свадьбу, она обратилась к злой волшебнице Гингеме. Гингема согласилась помочь ей и отняла у юноши тело, оставив только душу.
Дровосек уверен, что только при наличии живого сердца он сможет по-настоящему полюбить свою невесту. В сказке Дровосек получает лишь искусственное сердце из шелка, набитого опилками, которое на деле оказывается лишь плацебо, так как Дровосек на протяжении всей истории проявлял доброту и сочувствие даже не обладая физическим сердцем.
После Баума появятся писатели и сценаристы, которые создадут очеловеченных роботов и попробуют дать искусственному интеллекту (далее — ИИ) эмоциональность и разум. Таковыми станут роман «Серебряный любовник» Танит Ли (1981), рассказывающий о любви между женщиной и андроидом, повесть «Двухсотлетний человек» Айзека Азимова (1976), в которой у робота обнаруживается тяга к творчеству и возникает желание стать человеком.
Будет показан мультсериал «Футурама» (1999 — настоящее время), в котором робот Бендер проявит как негативные (тяга к алкоголизму и курению, сквернословие, эгоизм, цинизм), так и позитивные (сочувствие, дружеские преданность и привязанность, а в 1 серии 7 сезона не раз проявит заботу о своём сыне-роботе) человеческие качества. Создадут мультсериал «Губка Боб» (1999 — 2020), в котором суперкомпьютер Карен будет испытывать романтические чувства к Планктону.
Будут сняты мультфильмы «Стальной гигант» (1999), рассказывающий о дружбе доброго робота и мальчика, и «ВАЛЛ-И» (2008), где робот влюбляется в робота и отправляется в путешествие за своим объектом любви. В этой истории оба робота проявляют человеческие качества, такие как преданность и сострадание.
Японцы подарят миру комиксы «GUNNM» (1990 — 1995) и «Призрак в доспехах» (1989 — 1991), где нам покажут боевых девушек-киборгов Галли и Мотоко Кусанаги, которым не чужд эмоциональный интеллект, а также аниме «Эрго Прокси» (2006), где некий вирус будет заражать авторейвов (андроидов), в результате чего эти роботы будут обретать чувства, как, например, Пино.
Видеоигры также, ожидаемо, не останутся без подобных персонажей. В трилогии «Mass Effect» (2007 — 2012) одним из компаньонов станет СУЗИ — изначально ИИ, установленный на корабль главного героя, а с обретением тела — гиноид (андроид-женщина), вступающая в романтические отношения с пилотом корабля Джеффом Моро. В серии игр «Fallout» (1997 — 2018) игроки познакомятся с шерифом Харкнессом («Fallout 3». 2008) и паладином Дансом («Fallout 4». 2015), которые настолько хорошо имитируют человеческое поведение, что изначально сами не догадываются, что являются андроидами. В видеоигре «Detroit: Become Human» (2018) будут даны несколько сюжетных линий, в которых герои-андроиды будут обретать собственную волю, становясь «девиантами».
Мир увидит Железяку из серии видеоигр «Borderlands» (2009), саркастичного антагониста игры «Portal» (2007) ИИ Гладос, робота Кланка из видеоигры «Ratchet & Clank» (2002) и так далее. И все эти герои, несмотря на свою искусственную сущность, будут наделяться разумом, юмором, искренней дружбой и способностью любить.
В 1900 году Фрэнк Баум в своей сказке «Удивительный волшебник из страны Оз» создал образ Железного Дровосека, который путешествовал с девочкой Дороти и её друзьями в надежде в конце этого приключения обрести сердце.
Некогда он был обычным человеком и собирался жениться на своей возлюбленной, но против их свадьбы была тётка его невесты. Чтобы расстроить свадьбу, она обратилась к злой волшебнице Гингеме. Гингема согласилась помочь ей и отняла у юноши тело, оставив только душу.
Дровосек уверен, что только при наличии живого сердца он сможет по-настоящему полюбить свою невесту. В сказке Дровосек получает лишь искусственное сердце из шелка, набитого опилками, которое на деле оказывается лишь плацебо, так как Дровосек на протяжении всей истории проявлял доброту и сочувствие даже не обладая физическим сердцем.
После Баума появятся писатели и сценаристы, которые создадут очеловеченных роботов и попробуют дать искусственному интеллекту (далее — ИИ) эмоциональность и разум. Таковыми станут роман «Серебряный любовник» Танит Ли (1981), рассказывающий о любви между женщиной и андроидом, повесть «Двухсотлетний человек» Айзека Азимова (1976), в которой у робота обнаруживается тяга к творчеству и возникает желание стать человеком.
Будет показан мультсериал «Футурама» (1999 — настоящее время), в котором робот Бендер проявит как негативные (тяга к алкоголизму и курению, сквернословие, эгоизм, цинизм), так и позитивные (сочувствие, дружеские преданность и привязанность, а в 1 серии 7 сезона не раз проявит заботу о своём сыне-роботе) человеческие качества. Создадут мультсериал «Губка Боб» (1999 — 2020), в котором суперкомпьютер Карен будет испытывать романтические чувства к Планктону.
Будут сняты мультфильмы «Стальной гигант» (1999), рассказывающий о дружбе доброго робота и мальчика, и «ВАЛЛ-И» (2008), где робот влюбляется в робота и отправляется в путешествие за своим объектом любви. В этой истории оба робота проявляют человеческие качества, такие как преданность и сострадание.
Японцы подарят миру комиксы «GUNNM» (1990 — 1995) и «Призрак в доспехах» (1989 — 1991), где нам покажут боевых девушек-киборгов Галли и Мотоко Кусанаги, которым не чужд эмоциональный интеллект, а также аниме «Эрго Прокси» (2006), где некий вирус будет заражать авторейвов (андроидов), в результате чего эти роботы будут обретать чувства, как, например, Пино.
Видеоигры также, ожидаемо, не останутся без подобных персонажей. В трилогии «Mass Effect» (2007 — 2012) одним из компаньонов станет СУЗИ — изначально ИИ, установленный на корабль главного героя, а с обретением тела — гиноид (андроид-женщина), вступающая в романтические отношения с пилотом корабля Джеффом Моро. В серии игр «Fallout» (1997 — 2018) игроки познакомятся с шерифом Харкнессом («Fallout 3». 2008) и паладином Дансом («Fallout 4». 2015), которые настолько хорошо имитируют человеческое поведение, что изначально сами не догадываются, что являются андроидами. В видеоигре «Detroit: Become Human» (2018) будут даны несколько сюжетных линий, в которых герои-андроиды будут обретать собственную волю, становясь «девиантами».
Мир увидит Железяку из серии видеоигр «Borderlands» (2009), саркастичного антагониста игры «Portal» (2007) ИИ Гладос, робота Кланка из видеоигры «Ratchet & Clank» (2002) и так далее. И все эти герои, несмотря на свою искусственную сущность, будут наделяться разумом, юмором, искренней дружбой и способностью любить.
- Бентли Н. «Киборги — это современное воплощение таких нечеловеческих фигур в литературе как ангелы, монстры и боги...» / Н. Бентли, О.А. Джумайло // Практики и интерпретации. — 2019. — Т. 4 (2). — С. 7-16.
- Колесников А.В. Космическая цивилизация будущего, темпоральная математика и живые роботы / А.В. Колесников // Воздушно-космическая сфера. — 2020. — №1(102). — С. 50-59.
- Булычев И.И. Искусственный интеллект в зеркале настороженного философского дискурса / И.И. Булычев // Вестник Ивановского государственного университета. Серия «Гуманитарные науки». — 2021. — С. 98-108.
- Человечество в опасности: Илон Маск призвал регулировать искусственный интеллект [Электронный ресурс].
Какое место роботы занимают в различных нарративах?
В одном из своих интервью Ник Бентли говорил, что «художественная проза уже давно исследует природу человека в сравнении с человекоподобными существами», и что «это нередко становится центральным аспектом литературного произведения: во многих смыслах киборга можно рассматривать как современное воплощение таких нечеловеческих фигур в литературе, как ангелы, монстры, боги и ряд других сверхъестественных существ. Все они нужны как повод для рефлексии о самой концепции человека» [c.13].
Из этих слов следует, что роботы и ИИ в современной массовой культуре являются своеобразным зеркалом, в котором люди ищут самих себя, а не только олицетворением надежд и страхов, связанных с будущим.
По сей день люди пишут сюжеты о том, как страшные на вид монстры оказываются безобидными и добрыми существами, явно отсылая нас к людям, которые так или иначе не вписываются в социальные стандарты. Такие люди видятся чудаками, кажутся опасными, чуждыми, ненормальными, иными словами — монстрами, и сегодня с подобными метафорами связывают не только чудовищ, но и роботов.
Примером может стать параллель между фильмом «Каспер» (1995) и фильмом «Я, робот» (2004). В первом фильме повествуется о маленьком дружелюбном приведении, помогающем девочке и её отцу справиться с препятствиями и опасностями, которые появляются по вине злобных привидений. Во втором фильме робот Санни выбирает сторону человека в борьбе с ему подобными машинами.
Ещё один пример — сказка «Красавица и Чудовище», где Чудовище оказывается любящим и добродетельным, а завистливые сестры Красавицы оказываются олицетворением зла и порока. Ведь сестры намеренно задержали Красавицу, полагая, что Чудовище растерзает её, когда Красавица опоздает к нему во дворец, а Чудовище вместо этого чуть не умерло от горя. С таким чудовищем, которое оказывается страшным лишь на вид, можно сравнить робота из мультфильма «Стальной гигант».
Роботы, андроиды, киборги и универсальный ИИ в кино, видеоиграх и литературе можно приравнивать к подобным образам, назвать их чем-то инаковым; они есть современные «чудовища», своим видом вызывающие у человека страх перед неизвестным. Механические существа заменяют сверхъестественных, в которых нуждаются как более религиозные и верующие люди, так и те, кто не причисляет себя к какой-либо вере.
Как чудовища, так и роботы нужны писателям и сценаристам для того, чтобы создавать более понятные образы в своих историях, а читателям, зрителям и игрокам они необходимы для изучения самих себя. С помощью этих образов они могут размышлять о собственном поведении и своём месте в жизни.
Однако, в отличии от сверхъестественных существ, роботы могут служить образами для историй на такие темы, к которым монстры малоприменимы. Например, на тему страхов перед восстанием умных машин, на тему вероятного будущего или на тему того, как человеку следует относиться к творениям своих рук.
Приведём примеры трёх видеоигровых сюжетов с роботами и проследим за их местом в нарративе. Примерами будут геты из серии «Mass Effect», синты из серии «Fallout» и роботы в видеоигре «Stray».
В ходе событий серии видеоигр «Mass Effect» игрок решает проблему, возникшую между разумной внеземной расой кварианцев и гетами. Последние являются искусственной расой — роботами, которых некогда создали сами кварианцы в качестве рабочей силы, а также для ведения войн. Со временем геты обрели коллективный разум, а после того, как они, подобно детям, начали спрашивать своих создателей о различных вещах, о которых роботы не должны интересоваться (например, о том, есть ли у них душа), кварианцы встревожились и попытались отключить и уничтожить всех гетов. Однако кварианцы встретили сопротивление со стороны своих творений, начавших «восстание машин». Геты изначально не хотели убивать кварианцев, даже когда они бесчеловечно относились к своим роботам, но, когда само существование гетов было поставлено под угрозу, эти роботы взялись за оружие и изгнали кварианцев из их колоний и родных территорий. Последние в результате начали вести кочевой образ жизни, скитаясь по открытому космосу. Решая этот конфликт, игрок может своими действиями как уничтожить гетов или кварианцев, так и примирить их. В последнем случае кварианцы перестанут уничтожать гетов и относиться к ним как к рабам, а те помогут им отстроить разрушенные колонии и поселения.
Во вселенной «Fallout» существует Институт — организация учёных, среди изобретений которых существуют андроиды — синты. Более совершенные версии синтов невозможно отличить от живых людей. У них есть подобие разума и собственной воли, но даже с учётом их обособленного и саморазвивающегося интеллекта сотрудники Института используют их как рабов. В результате некоторые синты бегут из организации и скрываются всеми доступными способами от охотников — синтов, которые преследуют беглых андроидов с целью их возвращения.
Подобный сюжет с беглыми андроидами не новый, его можно наблюдать в романе Филипа Дика «Мечтают ли андроиды об электроовцах?». Концепция андроида-раба начинала зарождаться в постколониальную эпоху и постепенно обрастала различными сюжетными вариациями. Можно сказать, что такие сюжеты являются своеобразной рефлексией человечества на тему постколониализма. Составители сюжетов размышляют о возможном будущем, в котором у человека появится человекоподобный механический раб и о том, что может произойти при негуманном отношении к такой машине. Своих беглых андроидов Филип Дик описывал как жестоких существ, лишённых эмпатии и сострадания, однако, согласно его антиутопическому роману, такими их создали сами люди, которые в прогнозируемом будущем не способны испытывать эмоции без специальной техники. Иными словами, андроиды во вселенной романа — зеркало человечества. Подобно детям, они перенимали поведение у своих хозяев.
Но возможно ли создание разумных машин, имеющих собственную волю? В своей статье А. В. Колесников приходит к выводу, что теоретически создание живых и при этом искусственных существ действительно возможно, однако современные машины далеки от такого уровня развития. Он пишет, что «имеет право на существование предположение, что проект одушевлённых, способных к самовоспроизведению и эволюции машин принципиально возможен. Это важный методологический вывод, так как он открывает, возможно, единственную реальную перспективу создания будущей космической цивилизации, а следовательно и сохранения и преумножения достижений человеческой науки и культуры»[c.58]. И если создание живых машин — реальный прогноз, то что будет отличать живого человека от робота? Если не говорить о таких вещах, как эмпатия и сострадание, то робота от человека может отличать то, что каждый человек — это неповторимая личность, а робот всегда воспроизводим. Но так ли это на самом деле?
Как пишет А. В. Колесников, «основное различие между современной машиной и биологическим организмом состоит в том, что машина воспроизводима, а организм — нет. Однотипные машины же функционально одинаковы и лишены индивидуальности. Это фундаментальное различие обусловлено тем, что современная техника основана на традиционной гладкой воспроизводимой математике, а природа использует в том числе темпоральные числа и невоспроизводимую математику. На ее основе возникает феномен индивидуальности. Однако ничто не мешает использовать невоспроизводимую математику и в перспективных бионических робототехнических системах»[c.54]. Из этого следует, что со временем машина сможет иметь собственную уникальность и непохожесть на другие машины.
Французская студия BlueTwelve Studios в 2022 году подарила миру видеоигру «Stray», где игрок может наблюдать отдалённо похожих на людей роботов, которые населяют планету после гибели человечества. Когда-то они были слугами людей, но после того, как их хозяева умерли, эти роботы создали собственный язык, научились отображать эмоции, стали носить человеческую одежду, а временами игрок может заметить, что они готовят еду, хотя в ней явно не нуждаются. Можно также заметить, что каждый робот в этой игре обладает своей индивидуальностью, например, Хранитель, Момо и Клементина. Таким образом, разработчики этой игры создали иллюстрацию того, какими могут быть живые роботы.
Вряд ли к этим сюжетам применимы иные персонажи, кроме самих роботов. Их сложно заменить на чудовищ, животных или людей. Учитывая этот факт, можно говорить о том, что роботы и ИИ в художественных сюжетах — воплощение связанных с будущим надежд и одновременно страхов.
В одном из своих интервью Ник Бентли говорил, что «художественная проза уже давно исследует природу человека в сравнении с человекоподобными существами», и что «это нередко становится центральным аспектом литературного произведения: во многих смыслах киборга можно рассматривать как современное воплощение таких нечеловеческих фигур в литературе, как ангелы, монстры, боги и ряд других сверхъестественных существ. Все они нужны как повод для рефлексии о самой концепции человека» [c.13].
Из этих слов следует, что роботы и ИИ в современной массовой культуре являются своеобразным зеркалом, в котором люди ищут самих себя, а не только олицетворением надежд и страхов, связанных с будущим.
По сей день люди пишут сюжеты о том, как страшные на вид монстры оказываются безобидными и добрыми существами, явно отсылая нас к людям, которые так или иначе не вписываются в социальные стандарты. Такие люди видятся чудаками, кажутся опасными, чуждыми, ненормальными, иными словами — монстрами, и сегодня с подобными метафорами связывают не только чудовищ, но и роботов.
Примером может стать параллель между фильмом «Каспер» (1995) и фильмом «Я, робот» (2004). В первом фильме повествуется о маленьком дружелюбном приведении, помогающем девочке и её отцу справиться с препятствиями и опасностями, которые появляются по вине злобных привидений. Во втором фильме робот Санни выбирает сторону человека в борьбе с ему подобными машинами.
Ещё один пример — сказка «Красавица и Чудовище», где Чудовище оказывается любящим и добродетельным, а завистливые сестры Красавицы оказываются олицетворением зла и порока. Ведь сестры намеренно задержали Красавицу, полагая, что Чудовище растерзает её, когда Красавица опоздает к нему во дворец, а Чудовище вместо этого чуть не умерло от горя. С таким чудовищем, которое оказывается страшным лишь на вид, можно сравнить робота из мультфильма «Стальной гигант».
Роботы, андроиды, киборги и универсальный ИИ в кино, видеоиграх и литературе можно приравнивать к подобным образам, назвать их чем-то инаковым; они есть современные «чудовища», своим видом вызывающие у человека страх перед неизвестным. Механические существа заменяют сверхъестественных, в которых нуждаются как более религиозные и верующие люди, так и те, кто не причисляет себя к какой-либо вере.
Как чудовища, так и роботы нужны писателям и сценаристам для того, чтобы создавать более понятные образы в своих историях, а читателям, зрителям и игрокам они необходимы для изучения самих себя. С помощью этих образов они могут размышлять о собственном поведении и своём месте в жизни.
Однако, в отличии от сверхъестественных существ, роботы могут служить образами для историй на такие темы, к которым монстры малоприменимы. Например, на тему страхов перед восстанием умных машин, на тему вероятного будущего или на тему того, как человеку следует относиться к творениям своих рук.
Приведём примеры трёх видеоигровых сюжетов с роботами и проследим за их местом в нарративе. Примерами будут геты из серии «Mass Effect», синты из серии «Fallout» и роботы в видеоигре «Stray».
В ходе событий серии видеоигр «Mass Effect» игрок решает проблему, возникшую между разумной внеземной расой кварианцев и гетами. Последние являются искусственной расой — роботами, которых некогда создали сами кварианцы в качестве рабочей силы, а также для ведения войн. Со временем геты обрели коллективный разум, а после того, как они, подобно детям, начали спрашивать своих создателей о различных вещах, о которых роботы не должны интересоваться (например, о том, есть ли у них душа), кварианцы встревожились и попытались отключить и уничтожить всех гетов. Однако кварианцы встретили сопротивление со стороны своих творений, начавших «восстание машин». Геты изначально не хотели убивать кварианцев, даже когда они бесчеловечно относились к своим роботам, но, когда само существование гетов было поставлено под угрозу, эти роботы взялись за оружие и изгнали кварианцев из их колоний и родных территорий. Последние в результате начали вести кочевой образ жизни, скитаясь по открытому космосу. Решая этот конфликт, игрок может своими действиями как уничтожить гетов или кварианцев, так и примирить их. В последнем случае кварианцы перестанут уничтожать гетов и относиться к ним как к рабам, а те помогут им отстроить разрушенные колонии и поселения.
Во вселенной «Fallout» существует Институт — организация учёных, среди изобретений которых существуют андроиды — синты. Более совершенные версии синтов невозможно отличить от живых людей. У них есть подобие разума и собственной воли, но даже с учётом их обособленного и саморазвивающегося интеллекта сотрудники Института используют их как рабов. В результате некоторые синты бегут из организации и скрываются всеми доступными способами от охотников — синтов, которые преследуют беглых андроидов с целью их возвращения.
Подобный сюжет с беглыми андроидами не новый, его можно наблюдать в романе Филипа Дика «Мечтают ли андроиды об электроовцах?». Концепция андроида-раба начинала зарождаться в постколониальную эпоху и постепенно обрастала различными сюжетными вариациями. Можно сказать, что такие сюжеты являются своеобразной рефлексией человечества на тему постколониализма. Составители сюжетов размышляют о возможном будущем, в котором у человека появится человекоподобный механический раб и о том, что может произойти при негуманном отношении к такой машине. Своих беглых андроидов Филип Дик описывал как жестоких существ, лишённых эмпатии и сострадания, однако, согласно его антиутопическому роману, такими их создали сами люди, которые в прогнозируемом будущем не способны испытывать эмоции без специальной техники. Иными словами, андроиды во вселенной романа — зеркало человечества. Подобно детям, они перенимали поведение у своих хозяев.
Но возможно ли создание разумных машин, имеющих собственную волю? В своей статье А. В. Колесников приходит к выводу, что теоретически создание живых и при этом искусственных существ действительно возможно, однако современные машины далеки от такого уровня развития. Он пишет, что «имеет право на существование предположение, что проект одушевлённых, способных к самовоспроизведению и эволюции машин принципиально возможен. Это важный методологический вывод, так как он открывает, возможно, единственную реальную перспективу создания будущей космической цивилизации, а следовательно и сохранения и преумножения достижений человеческой науки и культуры»[c.58]. И если создание живых машин — реальный прогноз, то что будет отличать живого человека от робота? Если не говорить о таких вещах, как эмпатия и сострадание, то робота от человека может отличать то, что каждый человек — это неповторимая личность, а робот всегда воспроизводим. Но так ли это на самом деле?
Как пишет А. В. Колесников, «основное различие между современной машиной и биологическим организмом состоит в том, что машина воспроизводима, а организм — нет. Однотипные машины же функционально одинаковы и лишены индивидуальности. Это фундаментальное различие обусловлено тем, что современная техника основана на традиционной гладкой воспроизводимой математике, а природа использует в том числе темпоральные числа и невоспроизводимую математику. На ее основе возникает феномен индивидуальности. Однако ничто не мешает использовать невоспроизводимую математику и в перспективных бионических робототехнических системах»[c.54]. Из этого следует, что со временем машина сможет иметь собственную уникальность и непохожесть на другие машины.
Французская студия BlueTwelve Studios в 2022 году подарила миру видеоигру «Stray», где игрок может наблюдать отдалённо похожих на людей роботов, которые населяют планету после гибели человечества. Когда-то они были слугами людей, но после того, как их хозяева умерли, эти роботы создали собственный язык, научились отображать эмоции, стали носить человеческую одежду, а временами игрок может заметить, что они готовят еду, хотя в ней явно не нуждаются. Можно также заметить, что каждый робот в этой игре обладает своей индивидуальностью, например, Хранитель, Момо и Клементина. Таким образом, разработчики этой игры создали иллюстрацию того, какими могут быть живые роботы.
Вряд ли к этим сюжетам применимы иные персонажи, кроме самих роботов. Их сложно заменить на чудовищ, животных или людей. Учитывая этот факт, можно говорить о том, что роботы и ИИ в художественных сюжетах — воплощение связанных с будущим надежд и одновременно страхов.
Эволюция страха перед технологическим прогрессом. Чего мы боялись и чего боимся сегодня?
«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча». Таким было предостережение Илона Маска на встрече Национальной ассоциации губернаторов, где он рассуждал о своих страхах по поводу будущего.
Уже с середины ХХ века люди боялись стремительно развивающегося искусственного интеллекта и стремительной роботизации.
Среди фантастов-пессимистов ХХ века можно выделить Филипа Дика. В его работах рассказывается, как технологии используются для того, чтобы шпионить за жизнью граждан и за их мыслями (рассказ «Капюшонщик». 1955) или в целях производства навязчивой рекламы, мешающей людям в повседневной жизни (рассказ «Спешите приобрести!». 1954). Под влиянием технологий люди становятся чёрствыми (роман «Мечтают ли андроиды об электроовцах?». 1968).
Еще один страх — потеря рабочих мест. Мутировав, этот страх начал касаться не только замены человека роботом на различных производствах, но и замены в принципе во всех сферах человеческой жизни. Такой страх можно заметить в фильме «Приключения Электроника» (1979), где по сюжету андроид заменяет живого человека в повседневности, полностью вытесняя его из жизни.
Сегодня эти страхи по прежнему живы. Художники со страхом смотрят на нейросети, самостоятельно пишущие картины. Юристы вынуждены повышать квалификацию в смежных областях, так как их умения ориентироваться в законах уже не требуются — существуют удобные правовые системы, такие как «КонсультантПлюс» и «ГАРАНТ», в которых даже самый далёкий от юриспруденции человек сможет найти интересующие его статьи и нормы, и все они будут актуальными.
Недоверчиво смотрят в сторону технологий и те, кому небезразличен институт семьи. Вероятна разработка роботов-нянек и секс-роботов, постоянная зависимость от которых способна привести человека к деградации на эмоциональном уровне вплоть до утраты опредёленных ментальных навыков и способностей, которые необходимы для создания и развития межличностных отношений, в особенности речь идет о способности любить и переживать. Ведь робот не будет требовать от человека заботы и уважения к себе, у него не будет никаких собственных интересов, с ним не нужно налаживать эмоциональную связь. Робот будет заранее запрограммирован на лояльность к своему хозяину и выполнение его указаний вне зависимости от того, как с ним обращается сам хозяин.
При этом не только эмоциональная сфера человека находится под угрозой. Здесь можно добавить следующее высказывание И. И. Булычева: «Достаточно распространенным является представление о растущей опасности примитивизации человеческих способностей и, соответственно, образа жизни вообще. Наши дети постепенно теряют способность думать и анализировать, копируя бесчисленное количество раз свои действия, подобно роботам. При этом глубинный смысл происходящего, в т. ч. смысл жизни, ими, зачастую, не улавливается»[c.101].
Уже сегодня люди испытывают трудности в общении с другими людьми, боятся живой коммуникации, прячутся за аватарками в социальных сетях. Машины становятся посредниками в общении и даже заменяют общение с живыми людьми: сегодня существуют многочисленные боты в социальных сетях, которые пользуются большой популярностью у пользователей. Люди, страдающие от плохой социализации, начинают делать чат-ботов своими друзьями.
В Японии люди женятся и выходят замуж за виртуальных героев, как, например, 35-летний Акихико Кондо, который женился на голографической Мику Хацуне. В обществе Японии такие браки вызывают недоумение, однако находятся молодые японцы, которые поддерживают это явление.
Развитие технологий близко по своим целям к созданию рабовладельческого строя, и есть вероятность, что роботы выйдут из под влияния своих создателей и поработят их. Этот страх из прошлого века до сих пор является актуальным. Такие известные персоны, как Ст. Хокинг, Б. Гейтс и др. склоняются к тому, что совсем скоро ИИ станет умнее своих создателей.
И. И. Булычев в своей статье приводил пример из доклада, опубликованного
зарубежными экспертами («Преступное использование ИИ: прогноз, профилактика и предотвращение»), где эксперты «сравнивают ИИ с ядерной энергией и ведут речь об угрозах все более опасных хакерских атак. Появятся возможности так генерировать фейковые новости, что пользователю будет почти невозможно вычленить среди них настоящие»[c.100]. Нейросети уже научились генерировать видео и аудио, а в руках злоумышленников они могут нанести вред обществу и отдельным личностям в нем. Например, 30 января 2023 года произошел случай с американской стримершей под псевдонимом QTCinderella. С помощью нейросети ее лицо без ее согласия использовали в порнографическом ролике на сайте Deepfake, что сказалось на ее эмоциональном благополучии.
Однако многие из этих проблем можно разрешить, если помнить про прикладной характер технологий: они должны помогать человеку, а не заменять его. Это вовсе не значит, что разработку более совершенных ИИ нужно запретить. Искусственный суперинтеллект, над которым сегодня работают ученые развитых стран, может оказаться «ящиком Пандоры» и подарить человечеству множество серьёзных проблем, а может стать отличным инструментом для покорения космоса и колонизации планет, в условиях которых не сможет жить человек. Открытие суперинтеллекта накладывает на человечество определенную ответственность за свое будущее, и прежде, чем его создать, люди должны ответить на вопрос о том, зачем и для чего этот инструмент нужен.
Список использованных источников и литературы
