Субъектный предел антропоморфности роботов

Бескаравайный Станислав, канд. филос. наук., УДУНТ.

ORCID https://orcid.org/0000-0003-1707-1369

.

Субъектный предел антропоморфности роботов

.

Аннотация:

Цель. Обосновать один из возможных пределов антропоморфности в создании человекоподобных роботов.

Актуальность. Выявление потенциальных противоречий в развитии робототехники и уточнение угроз, которые могут нести. Формирование представлений о степени антропоморфности роботов, когда они смогут замещать человека в социуме.

Результаты. Представление о работах и ИИ как инструментах, основанное на инструментальном понимании техники вообще, а также на осмыслении роботов как исполнителей. Оппонируют такому подходу преимущественно философские и художественные точки зрения, часто профанирующие проблему или рассматривающие ее как отдаленную перспективу.

Работа, в процессе его приближения к человеку (т.е. создание полной биологической и психической копии человека искусственного происхождения), необходимо рассматривать как объект, приобретающий качества субъекта.

Если робот остается объектом, то асимптотическое приближение к антропоморфности превращает его в "куклу", в марионетку, потому что свобода выбора несовместима со статусом объекта. Если робот приобретает субъектность, то для конкуренции с другими техногенными субъектами ему необходимо устранить ограничения человеческой формы. Если такой субъект каким-то образом сохраняет контроль над антропоморфной машиной, то для него это не вместилище сознания, а лишь инструмент для воздействия на специфическую среду, созданную для человека, а также для социального общения с человеком. То есть для полноценного техногенного субъекта, для общего ИИ идеальный облик человека — это лишь специфический антропоморфный орган чувства.

Этот процесс во многом определен тем, что человек в рамках технического прогресса находится в перманентном противоречии: люди стремятся быть целью, а не средством, но революции в технике позволяют отчуждать отдельные качества и умения людей, заменяя механизмом человека. Идеальный искусственный облик человека — создает возможность полного отчуждения продуктов любой человеческой деятельности.

Для оценки возможности создания антропоморфного работа при существующем уровне развития техники использован диалектический метод, исторический подход, метод мнимого эксперимента, критерии автономности и целеполагания.

Выводы. Одним из пределов антропоморфности в создании роботов можно считать достижение ими субъектности. Для техногенного субъекта сама антропоморфность теряет смысл как существенное конкурентное преимущество, так как возникнут более совершенные носители психики.

Ключевые слова: Индивид, инструмент, социальный робот, отчуждение, сенсор.

.

Subjectness as the limit of robot anthropomorphism

Abstract:

Purpose. Substantiate one of the possible limits of anthropomorphism in the creation of humanoid robots.

Relevance. Identification of potential contradictions in the development of robotics, as well as clarification of the threats that they may carry. Formation of ideas about the degree of anthropomorphism of a robot, in which it can replace a person in society.

The results: the idea of robots and AI as tools is based on an instrumental understanding of technology in general, as well as on the prevailing idea of robots as performers. This approach is opposed mainly by philosophical and artistic points of view, which often profane the problem or consider it as a distant perspective.

The robot, in the process of its approach to a person (that is, the creation of a complete biological and mental copy of a person of artificial origin), must be considered as an object that acquires the qualities of a subject.

If the robot remains an object, then the asymptotic approach to anthropomorphism turns it into a puppet, into a puppet, because freedom of choice is incompatible with the status of an object. If the robot acquires subjectivity, then in order to compete with other technogenic subjects, it needs to eliminate the limitations of the human form. If such a subject somehow retains control over the anthropomorphic machine, then for him this is not a container of consciousness, but only a tool for influencing a specific environment created for a person, as well as for social communication with a person. That is, for a full-fledged technogenic subject, for a general AI, the ideal likeness of a person is just an anthropomorphic sensor.

This process is largely predetermined by the fact that a person is in a permanent contradiction within the framework of technological progress: people strive to be an end, not a means, but revolutions in technology make it possible to alienate individual qualities of people, replacing a person with a mechanism. The ideal artificial likeness of a person is the possibility of complete alienation of the products of any human activity.

To assess the possibility of creating an anthropomorphic robot at the current level of development of technology, the dialectical method, the historical approach, the method of thought experiment, the criteria of autonomy and goal-setting were used.

Conclusions. One of the limits of anthropomorphism in the creation of robots can be considered their achievement of subjectivity. For a technogenic subject, anthropomorphism itself loses its meaning as a possible competitive advantage, because more perfect carriers of the psyche will arise.

Keywords: Individual, tool, social robot, alienation, sensor.

.

Актуальность темы. Создание антропоморфного робота — одно из направлений развития современной робототехники, которое приносит в жизнь общества революционные изменения, поэтому осмысление возможностей и угроз этого процесса — одна из задач философии.

Анализ предварительных исследований и публикаций.

Термин "робот" первоначально (в 1920-х) понимался как машина, заменяющая работника. В этом смысле антропоморфная работа мыслилась как сумма более грубого подражания человеческим чертам и возможности автоматического, автономного выполнения трудовых операций.

Но уже во второй трети XX века эволюция промышленных роботов требовала отказа от антропоморфности: фактически созданные конструкции станков дополнялись функциями автоматизации производства. А вот сервисным работам, предназначенным для взаимодействия с человеком, стремятся придать гуманоидные черты. Использование антропоморфных роботов позволяет шире задействовать эмоции пользователя [Chiang, Trimi, Lo, 2022], привычная человеку телесность роботов желательна для коммуникации [Spatola, Wudarczyk, 2021]

Большие надежды стали возлагать на социальных роботов во время пандемии COVID-2019, в них видели идеальных сиделок или компаньонов для пожилых людей. Кроме того, социальный робот может быть использован человеком для самопознания, для нравственного развития [Damiano, Dumouchel 2018].

Но каковы пределы антропоморфности робота, и что может быть препятствием в создании робота, максимально похожего на человека?

Несколько разных ограничений:

— чисто технологичные. Их можно разбить на две группы. Во-первых, связанные с изготовлением тела работа (от механики и электроники — до биомеханики). При этом биотехнологии, которые могут прямо использоваться в робототехнике, то есть создание тканей, органов, аналогов скелета — сейчас делают только первые шаги [Koch, Thaden, Tröndle, Zengerle, Zimmermann & Koltay, 2021]. Во-вторых, это необходимость создания искусственного интеллекта для управления роботом. Необходимость интеллекта для работа осознается в 1950-х [Markoff, 2015], и с тех пор наблюдается тесная зависимость прогнозов развития робототехники и представлений об искусственном интеллекте (далее — ИИ), а в последние годы, об "общем искусственном интеллекте" [Brooks, 1991 ; Boltuc, 2020];

— экономические. С одной стороны: развитие робототехники за последние десятилетия — это история промышленной революции, и в производство гуманоидных роботов вкладываются огромные средства [Blain, 2023]. С другой стороны: любая промышленная революция — это история, в том числе неудачных стартапов и банкротства крупных фирм. Предельно антропоморфный робот может оказаться экономически невыгодным, как сейчас невыгодные беспилотники, идеально подражающие полёту птиц. Но экономические ограничения не могут быть ультимативным запретом для создания небольших партий продукции. Если антропоморфные работы не будут прибыльны в обслуживании пенсионеров, то могут использоваться как предметы роскоши, как показатель социального статуса и т.п.;

— вопросы безопасности. Это самая сложная проблема. Дружественный огонь от вашей системы вооружений [Guardian staff, 2023] это частная, решаемая проблема. А вот контроль над системами ИИ, которые потенциально могут анализировать мир лучше человека, или использование таких систем в межгосударственной конкуренции — принципиальная сложность, которую пытаются осмысливать самые разные авторы [Bostrom, 2014]. Здесь есть весь спектр мыслей: от технофобии до гипотезы "технологической сингулярности", в раках которой машины обгонят человека по уровню интеллекта. [Kurzweil, 2005];

— эмоциональные границы. Наиболее известная из них это "эффект зловещей долины", описанный Масахиро Мори еще в 1970-м: работы, имеющие определенное сходство с человеком, но не имеющие полного подобия, могут вызвать негативные эмоции, прежде всего страх. Сейчас этот эффект подтверждается и его постоянно исследкют [Igaue, Hayashi, 2023; Mishra, Ramanathan, Tulsulkar & Magnenat, 2022].

Но можно ли сказать, что этот эффект тормозит создание гуманоидных роботов? Нет. Работам можно придавать черты, которые сделают их в чем-то отличными от людей: Ameca робот-гуманоид, работающий на основе генеративного искусственного интеллекта, имеет удачную мимику лица и пластику рук, но серый цвет его кожи позволяет устранять эффект "злостной долины" [Ameca. The future face of robotics, 2022].

— вопросы этики и социальных конфликтов. Антропоморфная работа может повысить социальную напряженность: рабочие острее воспринимают образ того, что техника лишает с рабочих мест, потому что антропоморфные работы воспринимаются как участники социальных отношений [Xue Wang, Kim, Kim, 2023]

— законодательные пределы. Есть европейские законы использования роботов [European civil low rules in robotics, 2016] там прописаны ограничения. Но история законодательства показывает, что эффективно ограничиваются только те технологии, которые не могут дать слишком большую выгоду или слишком большое военное преимущество.

Каждое из перечисленных ограничений то ли чисто техническим, то есть устранимым инженерным путем, то ли возможно преодолено ослаблением запретов, снижением моральных и т.п.

Но исчерпывающий ли это список и можно ли сформулировать ограничение, которое нельзя преодолеть очередным изобретением, созданием общего ИИ или чем-то подобным? Поэтому цель статьи: выявить базовое препятствие для создания антропоморфных роботов.

Результаты исследования.

Проведем мысленный эксперимент и приведем к краю, к логическому завершению антропоморфность робота. Мы получим непохожего на человека работа, не киборга в смысле человеко-машинного конструкта, но именно организм, который анатомически станет человеком, и останется роботом: то есть фактически это человек искусственного происхождения. Со созданной, спроектированной, а не сформированной в процессе воспитания психикой. С созданным, например, распечатанным на биопринтере телом.

Конечно, сейчас это чисто фантастический образ, используемый в литературе и кино. Но можно сравнить его с набором перечисленных ограничений. Можно ли сказать, что, преодолев все технические и законодательные сложности, можно получить подобных роботов?

Сумма указанных ограничений никак не препятствует этому.

Чтобы найти какое-нибудь фундаментальное препятствие, необходимо рассмотреть базовую разницу между машиной и организмом.

Вероятно, исходной проблемой осмысления машины (работа, как ее вариации) можно считать инструментальным подходом к пониманию техники вообще. Техника воспринимается как нечто утилитарное. Философия техники традиционно рассматривает устройства и технологии как инструменты достижения целей, удовлетворения потребностей и т.д. [Mitcham, 1994, pp.22-26]. Поэтому, когда конструируются антропоморфные работы, они воспринимаются как полезные машины, пусть и с человеческими лицами.

Человек, как субъект, это действующее и понимающее начало (так он осмысливался в философии с Нового времени [Udo, 2011]. Свобода воли предполагает возможность выбора и формулирования целей собственного существования, несовместимого со статусом инструмента. Конечно, индивид не может жить в обществе сохраняет его полную независимость, периодически индивиду приходится выступать в качестве инструмента, чтобы обеспечить других людей питанием, ресурсами и т. п. Это изменение ролей отражается в противоречиях между эгоизмом и альтруизмом.

Для того чтобы характеризовать такого индивида, возможно использовать понятие автономности: поведение субъекта автономно потому, что определяется его внутренними основаниями и не зависит от влияния внешней среды и других индивидов.

Поэтому, если рассуждать о работе, как об автономной технике, как о носителе сознания, можно сказать, что "робот" — это субъект, который настолько автономен, что производит собственные цели деятельности и может вступить в противоречие с человеком.

Если исторически рассмотреть развитие роботов, они действительно могли быть только инструментами. И вот воспринимая роботов как инструменты, как "говорящее орудие" в смысле выражения Аристотеля, мы отделяем их от людей. Но чем больше мы приближаем роботов к людям, чем более антропоморфно делаем, тем больше развиваем их психику и моторику. Робот приобретает некую целостность, автономность — и, как следствие, субъектность.

Также технику можно рассматривать не только инструмент, но как явление, обладающее некоторыми совершенно особыми свойствами, онтологическими характеристиками. При всем разнообразии таких черт, вероятно, основным можно указать ее отрефлексированность: если генетический код организма никем не осознается, то любое техническое изделие имеет образ, проект, замысел, существующие в сознании. И если каждый организм уникален в силу уникальности генетического кода и становления фенотипа, то техника может стремиться к тождеству произведенных на конвейере изделий, поскольку за изделиями может стоять единый проект, и точность изготовления, например, процессоров, сравнима с размерами отдельных атомов.

С такой позиции робот — это образ будущего техногенного субъекта, который может просто хранить в себе свой проект, но осознавать его, то есть сопоставлять с картиной окружающего мира, формировать его на основе своей цели существования.

То есть чем ближе машина к этому осознанию, тем больше теряет качество объекта и приобретает качество субъекта.

Тело работа — носителя сознания — может быть разным.

И здесь можно зафиксировать противоречие в утилитарном характере антропоморфности:

— с одной стороны, сходство с человеческим телом позволяет пользоваться инфраструктурой, созданной для взаимодействия с человеком. Часть роботов манипуляторов прямо подгоняется под размеры и формы человеческой руки, чтобы обеспечить работу с оборудованием или на строительстве [Firth, Dunn, Haeusler & Sun, 2022]. То есть робот может воспользоваться всей суммой интерфейсов, созданных для человека. Под вес и габариты человека построены транспортные средства и здания, а значит, их не нужно создавать специально для андроида. Нет необходимости подстраивать температурный режим под существующий — есть терморегуляция для людей;

— с другой стороны, антропоморфность ограничивает субъекта в использовании инструментов, в развитии собственных когнитивных возможностей. Энергопотребление суперкомпьютера это растущая величина и ее технологическим ограничением может быть только энергетическая мощность техносферы. Целью промышленных работ является работа в условиях высоких температур и бескислородной атмосферы. Дизайн промышленных построек становится все менее антропогенным, и так называемые "темные цеха", где в рабочее время не включается свет, это один из первых этапов дегуманизации производства. Работу часто не требуется полный аналог человеческого глаза: машины используют более широкий набор датчиков (радары, лидары, датчики инфракрасного излучения). Создание небольших подвижных роботов позволит радикально снизить требования к "обитаемым" и "габаритным" площадкам, где должны работать люди. Наконец, сейчас происходит революция по военном деле, связанная с использованием беспилотников: это легкие конструкции, которые не могут поднять человека, а в перспективе будет непосредственно управлять ими искусственный интеллект, выполняющий указания человека.

Конечно, антропоморфные работы сами могут воспользоваться инструментами. Рука человека как продукт труда, это контроллер инструментов. Но здесь проявляется разница между человеком и техникой: если представить человека, пять лет назад вживившего себе мобильный телефон, то сейчас это фактически инвалид с устаревшими имплантами — однако для работы включения в свое тело самых разнообразных инструментов может быть вполне технологической процедурой.

При современном развитии техники противоречие в утилитарном характере антропоморфности преодолевается разделением функций роботов на социальные и промышленные. Но базовое противоречие в инструментальном и субъектном характере техники неизбежно будет актуализироваться при совершенствовании ИИ, то есть при росте уровня интеллекта, которым владеют работы.

Два основных пути функционального преодоления этого противоречия столкнуться со своими сложностями:

А) Сугубо внешнее подражание работа антропным формам. То есть создание "куклы", которая в перспективе может стать биомеханической, органической. Как инструмент она не будет обладать свободой воли, полной свободой принятия решений, возможностью формулировать цели и отстаивать свои интересы — в противном случае она может считаться субъектом.

Инструментальность подобного робота будет проявляться не только в необходимости соответствовать созданной для человека инфраструктуре, но и необходимости соответствовать взаимодействию с человеком.

Но идеальное копирование формы требует определенного сходства содержания: чтобы достичь предельной антропоморфности, выполняя приказы человека, работу необходимо управлять телом как человек, воспринимать визуальную и текстовую информацию, то есть сравнимый с человеком уровень интеллекта. Вероятно, антропоморфные работы, доведенные до полной антропоморфности, станут идеальными социальными интерфейсами для людей, не желающих воспользоваться виртуальной и дополненной реальностями.

Создание и широкое использование идеальных биоподобных человеку роботов, обладающих полной свободой воли, означает совершенно другое состояние общества. Не воспроизводство человека путем искусственного оплодотворения или даже выращивания эмбриона в искусственной плаценте, но обучение по пробирке — возможность конструировать псевдоличность.

Но при потенциале саморазвития, которым обладает ИИ, инструментальный характер работа потребует принципиальных барьеров в психике, в когнитивных возможностях андроида. Также возникнут чисто внешние, законодательно оговоренные ограничения для подобных роботов: лишение полноценного юридического статуса, запрет на определенные виды деятельности, возможно даже на какие-то социальные роли.

То есть: при достижении антропоморфным роботом максимального сходства с человеческим телом и психикой, для сохранения инструментального, служебного, объектного статуса такой машины — необходима принципиальная разница в психике между ней и человеком. Что ставит полноту антропоморфности под вопрос.

Б) Развитие работа как субъекта, начинающего выполнять социальные роли человека: не идеальный калькулятор или программа-брокер, а предприниматель, не художественная нейросеть как инструмент художника, но самостоятельное юридическое лицо, которое будет зарабатывать на рынке реализацией картин. Если техногенный субъект может получить имущественные права, ему придется соперничать с людьми. Это требует нового уровня мышления: возможно, конкурентных преимуществ в познании, на сумму трудовой деятельности, в социальных навыках.

Но здесь возникнет принципиально новый фактор: такой робот-субъект будет конкурировать не только с людьми, но и другими техногенными субъектами. То есть, нужна максимизация его интеллектуальных и производственных параметров. Состоится скачок техноэволюции. Возможности техногенного субъекта будут неизбежно расти, конкурентная борьба (а, возможно, и более антагонистические формы противоборства) потребует постоянных нововведений, и антропоморфные стандарты неизбежно будут подчинены эффективности. К примеру, круглосуточная работа — самоочевидное конкурентное преимущество, которым может иметь робот, но она несовместима с физиологией человеческого мозга. Неизбежно начинется гонка за вычислительные мощности, способы их контроля и т.д. Автономность, как возможность самостоятельно поддерживать собственные технологические циклы и производить цели развития, скорее приобретет не антропоморфный робот, но автоматизированный завод, техноценоз — просто потому, что будут сравнительно большие вычислительные мощности, более разнообразные задачи. Вопрос, возможно ли считать такой скачок одной из форм "технологической сингулярности", находится вне темы этой статьи.

Однако важно различать тело техногенного субъекта и антропоморфный интерфейс. Тело техногенного субъекта — это не просто набор инструментов и процессоров, но и верификатор выводов, тот полигон, который позволит субъекту проводить процедуры абстрагирования.

Антропоморфный интерфейс, "кукла", может сохранять некоторые возможности как интерфейс общения с человеком, получение специфического сенсорного опыта. Но будет ли безопасным носителем программного обеспечения общего ИИ? Маловероятно. Поэтому не вместилище сознания, но антропоморфный "сенсор", то есть опять-таки инструмент, имеющий ограниченную антропоморфность.

Чем объяснить подобную невозможность (или, по крайней мере, нежелательность) сочетания техногенного субъекта и человеческой телесности?

Необходимо исторически оценить противоречие между инструментальным и субъектным статусом техники.

Человек как результат эволюции и развития социума постоянно пытался избежать статуса инструмента. Рука человека — это преимущественно не инструмент, а средство для удержания инструментов. Человек не должен отождествляться с технологической операцией: зачем для оценки состояния воздуха шахтеру умирать в шахте, если возможно использовать канарейку, а если возможно датчик для оценки уровня содержания метана, то можно спасти жизнь даже канарейке. И всякий раз, когда человеку приходится становиться "смертником", "камикадзе" во время боевых действий — это рассматривается как кризис или регресс.

Человек существует в пределах противоречия: с одной стороны есть следствие категорического императива И. Канта: "...человек и вообще всякое разумное существо существует как цель само по себе, а не только как средство для любого применения со стороны той или иной воли; во всех своих поступках, направленных как на самого себя, так и на другие разумные существа, он всегда должен рассматриваться также как цель" [Kant, 1998, p.39], с другой стороны, есть постоянная попытка отчуждения любой деятельности, любого продукта труда от человека. Если человек цель, а не средство, если человек постоянно доминирует над средством, то и средство в свою очередь постоянно отчуждается от человека, от работника-индивида.

И вот, в рамках мысленного опыта, мы допускаем возможность отчуждения человеческой морфы от суммы всех остальных человеческих свойств. К примеру, от воли, подлости, скрытности. Антропная морфа может быть лишена гражданских прав, на нее могут не распространяться военные конвенции и другие ограничения.

Естественно, подобное отчуждение будет сделано при первой возможности.

Но отчуждение формы человека — это один из глубочайших кризисов социума: что тогда остается в человеке конкретно человеческого? Ум? Интуиция? Но практически все отдельные свойства человека уже скопированы и развиваются в рамках технического прогресса. Разумные алгоритмические умозаключения вообще копируются проще, чем хаотические телодвижения. Индивидуальный человеческий субъект оказывается лишен инструментальной составляющей в себе. Совершенный антропоморфный робот, оснащённый "общим ИИ", отчуждает "инструментальность тела" человека, поэтому человеческий индивид оказывается буквально изолированым от прогресса. Не нужным, чрезмерным.

Но тогда человек не может быть целью. Только инерция существования политических институтов может поддерживать энергопотребление, социальное обеспечение общества. Любой серьезный кризис может привести к замещению людей в управленческих структурах цивилизации. Но если индивидум больше не является конечным потребителем благ, создаваемых трудом машин, а эти ресурсы тратятся на обеспечение конкуренции техногенных субъектов, то как угодно точная копия человека уже не является человеком в смысле "царя природы", управляющего техникой лидера цивилизации.

А значит она — чрезмерна.

Да, подобные антропоморфные машины смогут существовать, как сейчас существуют каменные топоры — как эстетические, музейные или религиозные артефакты.

То есть подлинный признак субъектного барьера в создании антропоморфных роботов — это невостребованность подобных машин при технической возможности их создания.

Поэтому чем больше мы открываем возможности по техническому воспроизведению точных подобий человека, тем больше выясняется, что предельно точная, по форме и частично содержанию, копия человека — будет становиться ненужным инструментом, потому что будет необходимой частью для воспроизводящей его системы.

Выводы:

— список наиболее распространенных ограничений, возникающих при создании антропоморфных роботов, принципиально неполон;

— важнейшим препятствием к созданию антропоморфного робота выступает проблема субъект-объектного взаимодействия, которая при осмыслении техники трансформируется в противоречие между инструментальным и субъектным подходом в представлении о роботах, и об управляющих ими ИИ;

— одно из проявлений этого противоречия: чтобы пользоваться преимуществами среды, приспособленной для перемещения людей, суммой инструментов, созданных для людей, работы должны достигать антропоморфности, однако это ограничивает их технологические возможности;

— если рассматривать атропоморфность как асимптотические приближения к внешнему образу человека, то ее достижение в работе приведет к созданию "марионетки", которая лишь подражает человеческому поведению и лишена свободы выбора. Эта "кукла" будет оставаться инструментом, позволяющим отчуждать качества человеческого тела от индивида-человека;

— если рассматривать антропоморфность как достижение статуса субъекта в человеческом обществе, то создание полноценного техногенного субъекта (общего ИИ, который может использовать роботов) приведет к конкуренции таких субъектов. В условиях подобной конкуренции человеческое тело не сможет быть идеальным носителем машинного сознания и сохранится только как вариация интерфейса или культурный пережиток.

.

Библиография

Ameca. The future face of robotics. (2022) Retrieved from https://www.engineeredarts.co.uk/robot/ameca/

Blain, L. (2023, March 02) Musk expects Tesla Bot to be a much bigger business than its cars. New Atlas Retrieved from https://newatlas.com/robotics/musk-investor-day-tesla-robot-update/

Boltuc, P. (2020) Consciousness for AGI. Procedia Computer Science, 169, 365-372.

Brooks R. A. (1991), Intelligence Without Representation, Artificial Intelligence, 47, 139-159.

Bostrom, N. (2014) Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.

Chiang A., Trimi S. & Lo, Yu-Ju, (2022). Emotion and service quality of anthropomorphic robots Technological Forecasting and Social Change, Elsevier, vol. 177(C).

Damiano L., Dumouchel. P (2018) Anthropomorphism in Human-Robot Co-evolution. Cognitive Science. 9 doi: 10.3389/fpsyg.2018.00468

European civil low rules in robotics. (2016). https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf

Firth C., Dunn K., Haeusler M. H., Sun Y., Anthropomorphic soft robotic end-effector for use with collaborative robots in the construction industry https://doi.org/10.1016/j.autcon.2022.104218

Guardian staff (2023) US air force denies running simulation in which AI drone "killed" operator https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test?CMP=share_btn_tw

Igaue T., Hayashi R. (2023) Signatures of the uncanny valley effect in an artificial neural network , Computers in Human Behavior Available online 19 May 2023, 107811 https://doi.org/10.1016/j.chb.2023.107811

Kant I. Groundwork for the Metaphysics of Morals., New York: Cambridge University Press, 1998, ISBN o 521 62235 2

Koch F., Thaden O., Tröndle K., Zengerle R., Zimmermann S., Koltay P. Open-source hybrid 3D-bioprinter for simultaneous printing thermoplastics and hydrogels HardwareX Volume 10, October 2021, e00230 https://doi.org/10.1016/j.ohx.2021.e00230

Kurzweil R. (2005). The Singularity Is Near: When Humans Transcend Biology Viking

Markoff J. (2015). Machines of Loving Grace: The Quest for Common Ground Between Humans and Robots. Harper Collins Publishers, Kindle edition.

Mishra N., Ramanathan M., Tulsulkar G., Magnenat N. (2022) Uncanny valley for interactive social agents: An experimental study Virtual Reality & Intelligent Hardware 4, Issue 5, October 2022, 393-405.

Mitcham, C. (1994). Thinking Through Technology: The Path Between Engineering and Philosophy. Chicago, University of Chicago Press.

Spatola N., Wudarczyk O. (2021) Ascribing emotions to robots: Explicit and implicit attribution of emotions and perceived robot anthropomorphism Computers in Human Behavior 124, 2021, 106934 https://doi.org/10.1016/j.chb.2021.106934

Udo T. The Early Modern Subject. Self-Consciousness and Personal Identity from Descartes to Hume, New York: Oxford University Press, 2011

Xue Wang P., Kim S., Kim M. (2023) Robot anthropomorphism and job insecurity: The role of social comparison Journal of Business Research 164, 2023, 114003 https://doi.org/10.1016/j.jbusres.2023.114003