¡Cuidado! – Salud mental e inteligencia artificial

En un mundo donde muchos de nosotros podemos estar de acuerdo en que la conexión humana es esencial para la salud y la curación emocional, existe una tendencia creciente a intentar crear inteligencia artificial que pueda reemplazar (o al menos reemplazar) todo eso.

 

Los chatbots y otras formas de 'inteligencia artificial' están apareciendo por todas partes tratando de ofrecer apoyo preprogramado a personas que podrían sentirse solas, tener dificultades o querer conectarse de alguna otra manera.

 

"Joy" es un robot de apoyo particularmente visible que intenta utilizar respuestas preprogramadas para simular apoyo y ayudar a las personas a rastrear sus emociones a lo largo del tiempo. "Woebot" es bastante similar,

aunque esta versión viene con botones de opción múltiple en lugar de permitir tanta escritura libre. Y aunque Joy y Woebot comenzaron a través del sistema de chat de Facebook, “WYSA” es una aplicación telefónica destinada a funcionar como un 'entrenador' capacitado en enfoques tan populares como la terapia cognitivo-conductual y la entrevista motivacional.

 

Desafortunadamente, una conexión falsa o "programada" a menudo es como si no hubiera ninguna conexión y, a veces, estos robots dan respuestas bastante desdeñosas o hirientes. Si bien tienden a venir con muchas exenciones de responsabilidad, las exenciones de responsabilidad no se muestran de manera destacada y algunas personas que usan estos servicios probablemente nunca las verán o necesariamente ni siquiera las entenderán. qué están interactuando con o por qué da las respuestas que da.

 

Además de eso, está la cuestión de la privacidad. ¿Quién puede ver lo que le dices a un bot? ¿Está programado para llamar a profesionales de "emergencia" cuando usted no lo esperaba? ¿Qué pasa si estos robots causan más daño que bien?

 

Todas estas son preguntas en las que vale la pena reflexionar.