CNNE 1325699 - los riesgos detras de la herramienta de inteligencia artificial chatgpt
¿Cuáles son los peligros detrás de la herramienta de inteligencia artificial ChatGPT?
02:47 - Fuente: CNN

(CNN Español) – Seguro has escuchado de ChatGPT y los diversos usos a los que ha sido probado el programa de inteligencia artificial.

Entre las preguntas es si podría reemplazar o no a los doctores en su profesión, ya sea diagnosticando a pacientes u otras labores médicas.

El Dr. Elmer Huerta nos explica en este episodio de nuestro podcast lo que encontraron investigadores sobre el potencial de la herramienta.

El consultorio está abierto, ¡bienvenido!

Puedes escuchar este episodio en Spotify, en nuestro canal de YouTube o en tu plataforma de podcast predilecta, o leer la transcripción a continuación.

Hola, bienvenidos a este nuevo episodio de “En Consulta con el Dr. Huerta”, tu podcast favorito de salud por CNN en Español. Te saluda el doctor Elmer Huerta, espero que estés bien.

¿Te recuerdas de la primera vez que usaste por primera vez una innovación?

Es muy posible que ya hayas escuchado, e inclusive usado ya, el novedoso y recientemente dado a conocer instrumento de inteligencia artificial ChatGPT. Si no sabes qué es, hoy lo describiremos para ti y veremos sus posibles aplicaciones en el campo de la medicina.

Para empezar, y dependiendo de tu edad, es posible que recuerdes el momento de tu vida en el que usaste algún adelanto tecnológico importante y quedaste profundamente impresionado.

En ese sentido, tal vez recuerdas cuando viste por primera vez en tu vida una imagen de televisión en color. Yo la recuerdo: fue un partido de fútbol del Mundial de Argentina en 1978. ¡Quedé increíblemente impresionado de ver por primera vez el color del césped y las camisetas de los jugadores!

O quizás recuerdes también la primera vez que usaste una computadora. ¿Recuerdas el asombro y la emoción al percibir lo novedoso e importante de lo que estabas usando por primera vez?

En esa categoría de asombros cae sin duda la primera vez que usaste un buscador o motor de búsquedas en internet como Google, Bing u otro parecido. ¿recuerdas?

Era una sensación maravillosa poder escribir unas cuantas palabras en el buscador y tener, en cuestión de segundos, miles de enlaces que te daban la posibilidad de leer y leer y tener acceso a cantidades ilimitadas de información y conocimiento.

Pues para muchas personas la aparición desde noviembre pasado del programa de conversación en línea ChatGPT es uno de esos momentos de sorpresa y asombro.

¡No pueden creer lo que este programa es capaz de hacer! ¡Y en solo dos meses tiene ya más de 100 millones de usuarios! Como comparación, a Instagram le tomó dos años y medio llegar a ese número, y a TikTok, nueve meses.

¿Qué es ChatGPT y cómo funciona?

El ChatGPT es un programa creado por la compañía estadounidense OpenAI. Su nombre significa “transformador preentrenado generativo de chat”, un nombre muy técnico que trataremos de explicar con ejemplos.

El ChatGPT es una herramienta electrónica que es en realidad una página de internet, como cualquier otra, que al abrirla te pide que escribas la pregunta que le quieres hacer.

ChatGPT fue creada precisamente para responder a las preguntas de los usuarios de manera conversacional. Es decir, del mismo modo que usas a diario para chatear o conversar electrónicamente con tus amigos o familiares, por ejemplo por WhatsApp o mensajes de texto.

Esa capacidad para responder de manera conversacional es lo que diferencia a ChatGPT de los motores de búsquedas como Google, Bing u otros de ese tipo.

Quiero contarles del experimento que hice con Google y ChatGPT.

El experimento del Dr. Huerta

Al preguntar a Google “¿cuáles son los beneficios de la vitamina C?”, el buscador me respondió con una larga lista de enlaces sobre el tema, los cuales debo abrir individualmente para obtener una respuesta.

Al hacer la misma pregunta a ChatGPT, en 30 segundos me escribió esto:

La vitamina C es un nutriente esencial que tiene varios beneficios para la salud, algunos de ellos incluyen:

  • Fortalecimiento del sistema inmunológico: la vitamina C es conocida por su capacidad para ayudar a fortalecer el sistema inmunológico, lo que puede ayudar a prevenir enfermedades.
  • Mejora de la absorción de hierro: la vitamina C ayuda a aumentar la absorción de hierro en el cuerpo, lo que es especialmente importante para las personas que tienen deficiencia de hierro.
  • Antioxidante: la vitamina C es un antioxidante que ayuda a proteger las células del daño causado por los radicales libres.
  • Colágeno: la vitamina C es importante para la producción de colágeno, que es esencial para la salud de la piel, los huesos y los tejidos conectivos.
  • Reducción del riesgo de enfermedades crónicas: algunos estudios sugieren que la vitamina C puede ayudar a reducir el riesgo de enfermedades crónicas, como enfermedades cardíacas, cáncer y Alzheimer.

Es importante obtener suficiente vitamina C a través de la dieta o suplementos, ya que el cuerpo no puede producirla por sí solo.

Es fácil darse cuenta de la enorme diferencia entre la respuesta que me dio Google y lo que me dio el ChatGPT, ¿verdad?

Las diferencias de motores de búsquedas y ChatGPT

Los actuales motores de búsqueda te dan pistas de cómo encontrar la respuesta a tu pregunta. Mientras que el ChatGPT te da la respuesta completa, perfectamente redactada y gramaticalmente correcta, y funciona en español y otros idiomas.

ChatGPT recuerda las preguntas que hiciste anteriormente, es capaz de corregirse y —si no sabe la respuesta— te lo dice directamente.

De ahí la enorme preocupación que está causando el uso de ChatGPT en las escuelas. Los profesores no pueden distinguir si las tareas escolares están siendo redactadas por sus alumnos o el ChatGPT.

Y si te estás preguntando cómo es posible que ChatGPT pueda responder de esa manera, es decir de dónde saca esa información, la respuesta es relativamente simple.

ChatGPT es capaz de responder porque sus servidores fueron previamente alimentados con toda la información existente en internet. La habilidad del programa es buscar la información que se le pregunta y expresarla en un elaborado texto, gramaticalmente correcto y en un modo conversacional.

ChatGPT ha sido usado para:

  • Crear una pieza para piano al estilo de Mozart.
  • Hacer un videojuego basado en texto de Harry Potter.
  • Escribir el mensaje del estado de la unión del presidente Biden en el estilo de Shakespeare, de Mahatma Gandi, Elvis Presley o los tres chiflados.

¿Cuál es el impacto que tendría ChatGPT en el mundo de la medicina?

La noticia —que causó una enorme sorpresa— se dio a conocer en la primera semana de enero.

Una prepublicación de investigadores estadounidenses comunicaba que ChatGPT había aprobado los tres componentes del exigente examen de medicina que tienen que rendir los estudiantes y residentes de esa licenciatura en Estados Unidos para ser acreditados como médicos.

Además de los conocimientos médicos y científicos básicos que se enseñan durante los años de universidad, el examen evalúa también:

  • Cuál es la capacidad del candidato para resolver casos especialmente preparados para medir su razonamiento clínico,
  • Su manejo de aspectos éticos,
  • Su pensamiento crítico
  • Y sus habilidades para resolver problemas.

Como lo puedo atestiguar personalmente, después de haber aprobado esos exámenes hace ya algún tiempo, los estudiantes necesitan cientos de horas de estudio y toman varios minutos para responder a cada pregunta.

El hecho es que los investigadores dijeron que ChatGPT aprobó el examen sin ningún problema, sin haber tenido preparación previa alguna, y tomando solo algunos segundos para responder a cada una de las 305 preguntas que se le hicieron.

Uno de los directivos del examen de licenciatura médica en Estados Unidos dijo que el hecho de que ChatGPT haya aprobado el examen no lo sorprendió porque la información con la que se alimentó a sus servidores es una muestra representativa del conocimiento médico actual, y que la inteligencia artificial —que ChatGPT representa— se destaca en responder muy bien a las preguntas de opción múltiple del examen.

Los miembros de la comisión que elaboran el examen piensan que, debido a que las preguntas fueron respondidas con un alto nivel de concordancia y perspicacia en sus explicaciones, el uso de ChatGPT tiene un enorme potencial. Y, en un afán de aprender de la experiencia, están muy interesados en analizar las respuestas incorrectas que obtuvo ChatGPT.

¿Cuál es el potencial que tiene esta tecnología en el futuro de la medicina?

En los dos meses que han transcurrido desde que ChatGPT salió al público, estudiantes y residentes de medicina, médicos asistentes de hospitales, académicos, investigadores y otros miembros de las profesiones médicas han empezado a expresarse acerca de los posibles usos de este revolucionario instrumento cibernético.

Una reciente revisión del tema en el portal médico Medscape sugiere que ChatGPT será de una gran ayuda para aliviar el trabajo administrativo basado en la escritura que hacen los doctores.

Por ejemplo, dicen que ChatGPT sería muy útil para redactar los miles de correos electrónicos, resúmenes clínicos, instrucciones para el paciente y notas genéricas que constituyen una enorme carga burocrática que los médicos tienen que redactar todo el tiempo.

El uso de ChatGPT para hacer ese trabajo sería de mucha utilidad, pues el 60% de los encuestados en un estudio de 2022 mencionaron que las tareas burocráticas son una de las principales causas del agotamiento psicológico o “burnout” que sufren los médicos.

En el aspecto académico y científico, ChatGPT puede ser de mucha ayuda. Tanto en la etapa de investigación de las publicaciones científicas necesaria para escribir un artículo, como en la escritura del artículo mismo.

De hecho, la prepublicación antes mencionada, en la que se comunicaba que ChatGPT había aprobado el examen de licenciatura médica, fue escrito por ChatGPT, que fue incluido entre los autores del estudio.

Una guía para su uso

Sin esperar mucho tiempo, la prestigiosa revista médica Nature ha reaccionado, publicando guías sobre el uso de estos nuevos instrumentos cibernéticos. También sugirió que, a pesar de haberlo escrito, ChatGPT no puede ser listado como autor de un estudio de investigación. Esto debido a que, al no ser humano, no puede hacerse cargo de las responsabilidades que eso implica.

Sin duda, los estudiantes de medicina y otras carreras de salud tendrán con él un aliado muy importante en sus estudios. ChatGPT les permitirá tener un instrumento mucho más rápido en la búsqueda de información general y simulación de casos clínicos de estudio.

Al público general, el uso de ChatGPT le brindará la oportunidad de buscar y tener información médica antes de conversar con sus doctores, quienes tendrán que estar más preparados para contestarlas.

Pero el consenso es que ChatGPT nunca podrá reemplazar al médico. No puede tener en cuenta la individualidad del paciente ni puede darse cuenta de los finos detalles que permiten apreciar el contexto de los casos médicos para proporcionar un diagnóstico y un tratamiento adecuados.

Del mismo modo, al haber sido alimentado con información hasta el 31 de diciembre de 2021, ChatGPT puede dar respuestas desactualizadas.

La desventaja de la herramienta

Al igual que los robots, los chatbots —que es el nombre que se da a este tipo de instrumentos cibernéticos— solo dan respuestas binarias, de tipo blanco/negro, y son tan buenos como la información médica con la que los seres humanos los alimentan.

Eso es muy importante, pues sabemos que la ciencia no es una disciplina de blanco y negro, arriba o abajo, derecha o izquierda o grande o chico. Es en los tonos de gris, es decir en las pequeñas diferencias de los hechos, que radica el pensamiento humano que permite avanzar en el campo de la ciencia.

Los chatbots no tienen la capacidad del sentido común.

Ese hecho fue brillantemente expuesto por la científica Melanie Mitchell, cuando en el programa “Viernes de Ciencia” del 10 de febrero de 2023 de la Radio Pública Nacional de Estados Unidos, contó que al pedir a ChatGPT que escribiera su biografía. El chatbot le presentó un documento completo muy certero y bien redactado, excepto por un pequeño detalle. El último párrafo decía que Melanie Mitchell había fallecido en noviembre de 2022, probablemente porque alguna persona con el mismo nombre había fallecido en ese mes, pero no era la Dra. Mitchel.

Este ejemplo muestra cómo ChatGPT no tuvo la capacidad de distinguir, de razonar, de tener el sentido común, de que podía existir más de una persona con el mismo nombre y que, por tanto, no podía escribir en la biografía de una persona viva que ella ya había muerto.

Los chatbots no son humanos, son —por ahora— solo programas cibernéticos alimentados por seres humanos, por lo que no podrán reemplazar al médico.

Usar la tecnología para mejorar la comunicación es una cosa, usarlo para reemplazar el pensamiento es otra.

¿Tienes preguntas para el Dr. Huerta?

Envíame tus preguntas por Twitter, intentaremos responderlas en nuestros próximos episodios. Pueden encontrarme en @DrHuerta.

Si crees que este podcast es útil, asegúrate de suscribirse para obtener el último episodio en su cuenta. Ayuda a otros a encontrarlo calificándolo y revisándolo en su aplicación de podcast favorita.

Y para obtener la información más actualizada siempre pueden dirigirse a CNNEspanol.com. Gracias por su atención.