El Peligro de los Libros sobre TDAH Escritos por Inteligencia Artificial en Amazon

El auge de la inteligencia artificial (IA) ha revolucionado múltiples sectores, entre ellos la creación de contenido y la publicación de libros. Sin embargo, esta tecnología ha traído consigo problemas complejos, principalmente cuando se trata de información sensible relacionada con la salud. Un claro ejemplo de esta problemática es la venta en Amazon de libros sobre el Trastorno por Déficit de Atención e Hiperactividad (TDAH) aparentemente escritos por chatbots y otras herramientas de IA. Estos libros, que prometen ofrecer consejos y guías para personas diagnosticadas con TDAH, han generado preocupación en expertos por contener desinformación y recomendaciones potencialmente peligrosas. El TDAH es un trastorno neurodesarrollado que afecta tanto a niños como a adultos y cuyo manejo requiere un enfoque médico y psicológico riguroso.

Para las personas recién diagnosticadas o que buscan estrategias para controlar sus síntomas, la calidad y la veracidad de la información es crucial. Sin embargo, en un mercado digital saturado por contenidos creados sin supervisión experta, los usuarios pueden caer en manos de material que no solo es inexacto, sino también dañino para su salud mental y física. La proliferación de estos libros se facilita por la capacidad de la inteligencia artificial para generar grandes volúmenes de texto de forma rápida y económica y la estructura del modelo de negocio de plataformas como Amazon, que obtienen ganancias con cada venta sin relevar si el contenido es fiable o adecuado. Así, los límites anteriores impuestos por los editores tradicionales, como la revisión de manuscritos y la verificación de credenciales, prácticamente desaparecen. En un análisis reciente realizado por Originality.

ai, empresa estadounidense especializada en detectar contenido producido por IA, se examinó una muestra de ocho libros sobre TDAH vendidos en Amazon, todos ellos con una certeza del 100% de haber sido escritos por chatbots. Entre los títulos destacados, se encuentran obras que abordan el TDAH en hombres adultos con enfoques de gestión del tiempo, control de ansiedad y pautas nutricionales, pero cuya calidad y rigor científico son altamente cuestionables. Expertos en informática y salud mental han manifestado su gran inquietud ante esta situación. Michael Cook, investigador de Ciencias de la Computación en el King's College de Londres, señaló el riesgo considerable que implica que sistemas generativos de IA recomienden acciones que podrían poner en peligro la salud, como consumir sustancias tóxicas o ignorar protocolos médicos. Cook destacó que, aunque estas inteligencias artificiales se entrenan con grandes cantidades de textos médicos, también asimilan pseudociencia y teorías conspirativas, lo que les impide discernir entre información confiable y falaz.

La incapacidad de analizar críticamente o verificar los datos que generan convierte estos textos en productos potencialmente peligrosos sin la supervisión o validación de expertos humanos. Esta problemática se agrava debido a que no existen regulaciones estrictas que exijan el etiquetado o control de los libros creados por IA, lo que dificulta a los consumidores identificar si el autor es humano o un algoritmo. Shannon Vallor, directora del Centro para Futuros Tecnomorales de la Universidad de Edimburgo, subrayó el deber ético de Amazon y otros vendedores en línea para no facilitar productos que puedan causar daño a sus clientes y a la sociedad en general. La ausencia de filtros rigurosos y mecanismos de responsabilidad crea un escenario de "salvaje oeste" para la información de salud en internet. Un caso que ilustra el impacto de esta situación es el de Richard Wordsworth, quien recibió un diagnóstico reciente de TDAH en su adultez.

En busca de comprensión y consejos, su padre le recomendó un libro hallado en Amazon, el cual resultó tener indicios claros de haber sido escrito por IA: el texto comenzaba con una cita inusual del psicólogo conservador Jordan Peterson y seguía con anécdotas sin coherencia y afirmaciones históricas incorrectas. Su investigación detectó además que el supuesto autor carecía de credenciales y que la foto de portada parecía generada artificialmente. Más alarmante fue encontrar en otros títulos advertencias infundadas acerca de que tener TDAH era una condición "catastrófica" y que la esperanza de vida se veía drásticamente reducida. Este tipo de mensajes no solo altera emocionalmente a quienes los leen, sino que también contribuye al estigma que sufren las personas con este trastorno. El caso de Wordsworth refleja cómo incluso personas con alto nivel educativo pueden verse engañadas por contenido malintencionado o mal elaborado, lo que abre la puerta a que usuarios más vulnerables sean víctimas fáciles de estos "productos" editoriales.

Ante la problemática, Amazon ha afirmado contar con políticas y herramientas internas para detectar y eliminar contenido que viole sus pautas, sea generado por IA o no. La empresa señala que sigue invirtiendo recursos para perfeccionar estos sistemas con el fin de mejorar la calidad del catálogo disponible. No obstante, la realidad demuestra que el volumen y accesibilidad de estos libros continúan aumentando. Más allá de Amazon, la cuestión del uso responsable de la inteligencia artificial en la generación de contenidos es un desafío global. La rapidez con que se producen textos sin revisión humana puede acarrear consecuencias nefastas cuando se trata de temas sensibles como la salud mental y física.

En un contexto donde la búsqueda de información confiable es fundamental, la difusión de falsedades, mitos o recomendaciones negligentes puede empeorar diagnósticos, retrasar tratamientos e incluso poner en riesgo vidas. Como sociedad, resulta esencial promover la alfabetización digital y científica para que los usuarios puedan discernir fuentes confiables y buscar siempre asesoría de profesionales calificados. Los médicos, psicólogos y especialistas en TDAH siguen siendo el pilar insustituible para un diagnóstico acertado y un plan terapéutico adecuado. También es necesario impulsar marcos regulatorios que obliguen a las plataformas digitales y editoriales a verificar la calidad y la autoría de los materiales que comercializan, especialmente cuando abordan temas sanitarios. La colaboración entre gobiernos, instituciones de salud, empresas tecnológicas y expertos éticos puede generar soluciones efectivas para mitigar los riesgos derivados del uso irresponsable de la inteligencia artificial.

En conclusión, los libros sobre TDAH escritos por inteligencia artificial y ofrecidos en Amazon representan un fenómeno preocupante que ilustra las consecuencias negativas del descontrol en la generación y distribución de contenido digital. La falta de supervisión y regulación adecuada ha permitido que información errónea y consejos potencialmente dañinos lleguen a personas vulnerables, afectando su bienestar y confianza. Es imperativo que los usuarios estén advertidos sobre esta situación y que las plataformas responsables refuercen sus controles para garantizar que los recursos disponibles sean confiables, rigurosos y respetuosos con la salud pública. Solo así se podrá aprovechar el enorme potencial de la IA para beneficiar a la sociedad sin sacrificar la seguridad y veracidad imprescindibles en temas tan delicados como el TDAH.