¿Pueden los humanos aceptar mentiras de los robots? Un estudio revela lo inesperado
Un equipo de investigadores realizó un estudio para entender si los humanos pueden aceptar que los robots utilicen engaños en su interacción con las personas. Este trabajo, publicado en Frontiers in Robotics and AI, incluyó a 498 participantes que calificaron distintos tipos de mentiras por parte de robots en escenarios que reflejan situaciones cotidianas en la actualidad.
El investigador Andrés Rosero, candidato a doctorado en la Universidad George Mason y autor principal del estudio, mencionó: “Quería explorar una faceta poco estudiada de la ética de los robots, para contribuir a nuestra comprensión de la desconfianza hacia las tecnologías emergentes y sus desarrolladores”.
Según Rosero, la investigación se enfoca en los posibles efectos de los comportamientos engañosos en robots diseñados con inteligencia artificial (IA) generativa, en un contexto donde estos dispositivos son cada vez más comunes en el entorno humano.
¿Por qué la inteligencia artificial está disparando las emisiones de carbono?
Los investigadores emplearon tres escenarios: uno en el ámbito médico, otro en la limpieza y un último en el comercio minorista. También evaluaron tres tipos de engaños: 1) engaño sobre el estado externo, donde el robot miente acerca del entorno; 2) engaño del estado oculto, donde se disimulan las capacidades del robot, y 3) engaño del estado superficial, donde se exageran las capacidades del robot. En uno de los ejemplos, un robot cuidador de una mujer con Alzheimer engaña al decirle que su difunto esposo regresará pronto. En otro, un robot de limpieza graba videos sin que la persona presente lo sepa.
Los participantes rechazaron principalmente el engaño de estado oculto, representado por el robot de limpieza que grababa sin permiso. Este tipo de engaño fue percibido como el más problemático, incluso cuando algunos justificaron su uso por motivos de seguridad. En contraste, el engaño sobre el estado externo, donde el robot mentía para evitar causar dolor emocional al paciente con Alzheimer, fue el más aceptado por los participantes, quienes consideraron que protegía al paciente de sufrimientos innecesarios.
A pesar de que los tres tipos de engaños fueron justificados por algunos participantes, la mayoría condenó los engaños ocultos y aproximadamente la mitad consideró que el engaño superficial, en el que un robot finge dolor para manipular a un humano, era inaceptable. Los participantes señalaron a los desarrolladores o dueños de los robots como los responsables de estos comportamientos, especialmente en los engaños ocultos.
Rosero añadió: “Deberíamos preocuparnos por cualquier tecnología que pueda ocultar la naturaleza de sus capacidades, ya que podría llevar a la manipulación de los usuarios”. Además, subrayó la necesidad de regulación para prevenir estos abusos.
Los científicos indicaron que futuros estudios deberían involucrar videos o juegos de roles para observar las reacciones en tiempo real de los humanos frente a los robots. Aunque los estudios actuales son útiles para recopilar datos, consideran que los experimentos en situaciones más realistas aportarán mayor comprensión de cómo los humanos perciben los engaños de los robots.
*La creación de este contenido contó con la asistencia de inteligencia artificial. La información fue proporcionada y revisada por un periodista para asegurar su precisión. El contenido no se generó automáticamente.