India ordena bloquear Proton Mail por presuntas denuncias de abusos con deepfakes generados por IA

Recientemente, la Corte Suprema del estado indio de Karnataka emitió una orden para que Proton Mail, el conocido servicio de correo electrónico cifrado de extremo a extremo, sea bloqueado en todo el país. Esta medida proviene de una queja legal presentada en enero de 2025 por la empresa M Moser Design Associated India Pvt Ltd, cuya plantilla reportó haber recibido correos electrónicos con imágenes deepfake creadas mediante inteligencia artificial, así como mensajes con lenguaje obsceno y contenido abusivo y vulgar. La gravedad de la denuncia motivó la intervención judicial y la orden del juez M Nagaprasanna para que el gobierno de India implemente el bloqueo bajo la normativa de la Ley de Tecnología de la Información de 2008 y sus reglamentos asociados bajo la sección 69A. Esta legislación permite el bloqueo de contenidos o servicios online que se consideren nocivos para el interés público o la seguridad nacional. En el momento de redactar el informe, Proton Mail sigue accesible en India, aunque existe la intención oficial de restringir su uso a la brevedad.

Proton AG, la empresa suiza responsable del servicio, expresó anteriormente que rechaza categóricamente cualquier uso de su plataforma para actividades ilícitas o en violación de la ley suiza, que protege fuertemente la privacidad de sus usuarios y impide la transferencia de datos a autoridades extranjeras salvo bajo órdenes legales estrictas. La situación en India ejemplifica el conflicto creciente entre la protección de la privacidad digital, especialmente en servicios que aplican cifrado de extremo a extremo, y la necesidad de las autoridades para controlar y prevenir la distribución de contenido dañino, en este caso generado con herramientas avanzadas de inteligencia artificial para crear deepfakes. El uso malicioso de deepfakes implica no solo una cuestión jurídica, sino también un desafío ético y social, ya que estas tecnologías pueden ser empleadas para difamar, acosar o comprometer la integridad personal de las víctimas mediante manipulaciones visuales y textuales que parecen reales. El bloqueo de Proton Mail en India es la segunda vez que el servicio enfrenta una amenaza de suspensión en el país. En 2024, el portal fue apuntado tras investigaciones que vincularon su plataforma con el envío de falsas amenazas de bomba, lo que llevó a Proton a enfatizar su compromiso contra usos ilegales, aunque defendiendo al mismo tiempo la confidencialidad y seguridad de sus usuarios mediante políticas estrictas y tecnologías robustas.

La orden de la corte en Karnataka también subraya el creciente escrutinio sobre aplicaciones y herramientas digitales que facilitan comunicaciones anónimas o difíciles de rastrear, lo que puede ser atractivo para actores malintencionados pero que también representan una herramienta valiosa para periodistas, defensores de derechos humanos y usuarios preocupados por su privacidad en entornos represivos o vigilados. A nivel global, la regulación de plataformas cifradas y el manejo de contenidos generados por inteligencia artificial es un fenómeno emergente y complejo. Mientras algunos países abogan por mayores controles y supervisión para prevenir abusos, otros insisten en salvaguardar el derecho a la privacidad y a las comunicaciones seguras como pilares fundamentales de la era digital. En India, con una población conectada que supera los 800 millones de usuarios de internet, las decisiones judiciales sobre la accesibilidad de servicios como Proton Mail tienen un impacto significativo en la vida cotidiana y el ecosistema digital. El debate no se limita únicamente a la seguridad o la censura, sino que también implica la búsqueda de soluciones tecnológicas y legales que permitan detectar y erradicar abusos sin afectar el uso legítimo y protegido de la privacidad.

Además de los aspectos legales, surge la cuestión de la responsabilidad ética de los proveedores de servicios. Proton ha manifestado que, a pesar de la imposibilidad técnica de vigilar el contenido debido al cifrado, coopera con investigaciones oficiales en la medida que la ley suiza lo permite. No obstante, servicios de este tipo se enfrentan al desafío de impedir la explotación de sus plataformas para delitos como la distribución de material abusivo, incluyendo deepfakes con fines sexuales o intimidatorios. En el núcleo del caso se encuentra la capacidad y la rapidez con que la inteligencia artificial puede producir deepfakes convincentes y de alta calidad a bajo costo y sin grandes conocimientos técnicos. Esta innovación tecnológica, si bien tiene aplicaciones positivas en el arte, la educación o el entretenimiento, también se usa con propósitos dañinos, aumentándose la dificultad para las víctimas al buscar remedios legales y la implementación de controles efectivos.

La intervención de la justicia india es un reflejo de la urgencia con la que los estados comienzan a responder a estas amenazas digitales, aplicando marcos legales existentes y generando simultáneamente debates sobre la necesidad de actualizar legislación o crear nuevos instrumentos específicos para la era de la inteligencia artificial. Paralelamente, organizaciones especializadas en ciberseguridad, gobiernos y empresas tecnológicas trabajan para desarrollar soluciones técnicas, como sistemas avanzados de detección de deepfakes, inteligencia artificial responsable y plataformas que combinen protección robusta de la privacidad con filtros para identificar abusos. La situación de Proton Mail en India puede servir como un caso emblemático para reflexionar sobre las tensiones y sinergias posibles entre seguridad digital, privacidad individual y regulación tecnológica. Así mismo, evidencia la creciente importancia de las políticas públicas, la cooperación internacional y la innovación para abordar retos complejos donde la tecnología avanza más rápido que los marcos normativos tradicionales. En conclusión, el fallo del Tribunal Superior de Karnataka de ordenar el bloqueo de Proton Mail ante las denuncias de uso indebido de deepfakes de inteligencia artificial representa un punto crítico en la evolución de la justicia digital en India.

Más allá de las repercusiones inmediatas para el servicio y sus usuarios, plantea un escenario donde deben equilibrarse derechos fundamentales, avances tecnológicos y necesidades de seguridad pública. Este episodio invita a un diálogo amplio y multidimensional entre la industria tecnológica, legisladores, sociedad civil y expertos para construir un entorno digital más seguro, ético y respetuoso de los derechos humanos, sin sacrificar las libertades individuales que hacen posible una comunicación libre y confiable en la era moderna.