¿Nos puede juzgar la Inteligencia Artificial?
Solemos pensar con cierto desarraigo y una falsa sensación de seguridad que la Inteligencia Artificial no es capaz de juzgarnos y, aún así, olvidamos que la propia IA nos sentencia desde algoritmos sesgados que utiliza para satisfacer nuestras necesidades intelectuales y emocionales.
Estoy seguro de que, en ocasiones, más de las que pensamos, contamos nuestras intimidades a un chat de Inteligencia Artificial ya sea con un objetivo fijo o por simple diversión y curiosidad. Sea como fuere, y a propósito de contar datos muy personales a la IA, hace unas semanas un adolescente de Estados Unidos se quitó la vida después de mantener una “relación sentimental” con un personaje de una serie de televisión a través de un chat de IA. La serie en cuestión era Juego de Tronos y su supuesta pareja era Daenerys Targaryen, ya sabes, la madre de dragones.
La familia de este chico ha demandado a Character.AI tras considerar que la capacidad intelectual de la IA de esta plataforma sobrepasaba los límites que un menor de edad puede comprender. De todas maneras, la pregunta principal que nos debemos hacer todos es si la humanización de los algoritmos conlleva más riesgos que ventajas y si las herramientas con IA y que utilicen menores de edad, deben ser controladas para evitar casos extremos como e sucedido en EE.UU.
¿Es necesario dotar de cierta moralidad a la IA para evitar riesgos autolesivos? ¿Es propiamente lícito adjudicar cierto acervo a la Inteligencia Artificial? No tengo una respuesta clara. Por una parte, si se va a seguir permitiendo “sin control” que cualquiera use plataformas de IA, sí debería tener cierta capacidad “cognitiva” para empatizar con el emisor, es decir, con las personas. Pero, por otro lado, creo que si se adjudica cierta empatía a la IA sería la primera piedra de la singularidad tecnológica y no sería, precisamente, una buena noticia, al menos con los antecedentes que tenemos en la actualidad.
¿Serías capaz de hablar con una IA como si fuera un familiar o un amigo/a?
