¿Es la inteligencia artificial una amenaza para la humanidad?

El foco de atención está actualmente en las oportunidades que proporcionan las IAs que interpretan y producen lenguaje humano. Si bien la discusión reciente se ha centrado en aplicaciones que conciernen a la educación e investigación, queremos detenernos en aplicaciones orientadas a la salud mental y el bienestar psicológico. Se trata de apps que buscan establecer lazos emocionales entre el usuario y la IA.

Esto incluye unas que ofrecen terapeutas artificiales, como Wysa o Woebot Health, y otras como Replika o Anima, donde la IA encarna un vínculo personal del usuario (una amiga, un hermano o una pareja romántica). Para cumplir con su función, estas IAs necesitan exhibir rasgos de tipo humano en sus interacciones, imitando nuestras reacciones emocionales, lo que les da a los usuarios la oportunidad de explorar y profundizar sus propias emociones. Pero al mismo tiempo estas tecnologías pueden conllevar riesgos imprevistos para personas psicológicamente vulnerables, como lo ejemplifica el caso del suicidio aparentemente inducido en un usuario por el Chatbot "Eliza", basado en la tecnología GPT-J. Por este motivo debemos llegar a un acuerdo sobre cómo restringir el uso de estas aplicaciones, lo que requiere tiempo para una discusión sustantiva que involucre a todos los actores relevantes. Así, consideramos necesaria una moratoria o suspensión de estas apps hasta que se elaboren regulaciones efectivas. Este tipo de estrategias tiene precedente en el desarrollo de la investigación sobre el ADN recombinante. 

En 1974, biólogos moleculares se reunieron en California y acordaron una moratoria sobre muchos tipos de experimentos potencialmente riesgosos, lo que resultó en la redacción de una propuesta de normativa de seguridad para regular la ingeniería genética, que se convirtió en un modelo influyente en políticas sobre tecnologías de riesgo. Ahora bien, la aplicación de un principio de precaución (esto es, pausa y revisión antes de avanzar con innovaciones que pueden potencialmente causar daños desastrosos) para este caso ha recibido críticas. (...)