Él sólo quería una IA que generase «porno de robots». Su error fue hacerlo desde un PC con acceso a los secretos nucleares de EE.UU.

Él sólo quería una IA que generase "porno de robots". Su error fue hacerlo desde un PC con acceso a los secretos nucleares de EE.UU.

A finales de 2024, el Departamento de Energía de Estados Unidos (DOE) publicó una decisión administrativa con un título de lo más burocrático y aburrido —PSH-24-0142 – Respecto a una audiencia de seguridad del personal— pero cuyo contenido parecía salido de una comedia de ciencia ficción.

Y es que resulta que la mencionada audiencia tuvo como resultado que un empleado con acceso a información sensible sobre el arsenal nuclear estadounidense perdió su autorización de seguridad… después de subir accidentalmente a una red gubernamental más de 180.000 imágenes pornográficas generadas por inteligencia artificial.

Qué vicio con la IA

Según la documentación judicial, el incidente comenzó en marzo de 2023, cuando el empleado —identificado únicamente como «el individuo» en los documentos públicos— intentó hacer una copia de respaldo de su colección personal de imágenes pornográficas. Durante tres décadas había acumulado cerca de 187.000 archivos, que pensaba usar como base para entrenar un modelo de IA generativa que fuera capaz de crear imágenes de «pornografía robótica».

El problema fue que la copia de seguridad se realizó desde su equipo personal conectado a la red de un sitio del DOE, responsable de custodiar parte de las instalaciones nucleares del país. Convencido de que su disco personal estaba ‘particionado’ y no podía contaminar el sistema institucional, el empleado subió sin darse cuenta cientos de gigabytes de contenido sexual a servidores del gobierno.

Lo ocurrido fue descubierto seis meses después, cuando los administradores de red detectaron un flujo de datos anómalo y localizaron la fuente. El hallazgo generó alarma inmediata: aunque no había secretos de defensa implicados, planteó la posibilidad de que se hubieran vulnerado protocolos de seguridad informática.

La culpa es de la Inquisición

El DOE no se limitó a una investigación técnica: la agencia ordenó una evaluación psicológica del individuo, quien declaró padecer depresión desde la infancia y haber atravesado una crisis depresiva severa en el periodo del incidente. En sus propias palabras, crear y modificar imágenes generadas por IA se había convertido en una forma de evasión durante una etapa de aislamiento y soledad.

La psicóloga contratada por el DOE concluyó que el sujeto sufría un episodio depresivo mayor de nivel moderado a severo, que afectaba su juicio, fiabilidad y capacidad para cumplir normas. Aunque el empleado aseguró que estaba en tratamiento, había cambiado su medicación y tomado medidas para evitar repetir el error, la profesional consideró que su pronóstico de estabilidad era solo ‘regular’.

En el proceso de apelación, el trabajador comparó el trato recibido con la «Inquisición española» (quizá el hombre pensara que la Inquisición en otros lados era mucho más tolerante, no lo sabemos) y expresó sentirse vigilado en exceso por sus superiores.

El juez administrativo del caso determinó finalmente que no existían garantías suficientes de que el empleado pudiera evitar nuevos episodios que comprometieran su fiabilidad. Por tanto, el 6 de diciembre de 2024, se le negó la restauración de su credencial de seguridad.

Las nuevas meteduras de pata

Cuando los límites tecnológicos entre lo personal y lo profesional se desdibujan, el error del empleado del DOE no es más que un ejemplo de un nuevo tipo de riesgo: el «cibercomportamiento impropio». No se trata de espionaje ni sabotaje deliberado, sino de la incapacidad individual para gestionar entornos digitales complejos con las precauciones adecuadas.

Además, evidencia cómo los problemas de salud mental pueden amplificarse en entornos tecnológicos. La soledad, la hiperconectividad y la disponibilidad de herramientas creativas basadas en IA crean un terreno fértil para conductas compulsivas.

Vía | 404 Media

Imagen | Marcos Merino mediante IA

En Genbeta | ChatGPT se prepara para otro gran salto que llevaba tiendo retrasando: permitir crear contenido erótico, aunque no para todos


La noticia

Él sólo quería una IA que generase «porno de robots». Su error fue hacerlo desde un PC con acceso a los secretos nucleares de EE.UU.

fue publicada originalmente en

Genbeta

por
Marcos Merino

.

Si quieres ver porno vas a tener que contar con un ‘carnet digital’ que caduca a los 30 días: así es la última medida del Gobierno

Si quieres ver porno vas a tener que contar con un 'carnet digital' que caduca a los 30 días: así es la última medida del Gobierno

La teoría marca que el contenido de adultos o pornografía está destinado lógicamente a aquellos que son mayores de edad. Pero la realidad es que los menores cada vez consumen más cantidad de contenido pornográfico y a una edad más temprana. El problema es que ahora mismo el control para determinar quién es mayor de edad y quién es menor se reduce a una ventana emergente donde se dice «Pulsa si eres mayor de 18 años». Y lógicamente esto no es un escudo de protección.

Para poder evitar esto, el Gobierno de España ha presentado este lunes una nueva aplicación que se integrará en páginas webs de adulto para asegurarse que su contenido solo sea consumido por adultos. Esta se llama Cartera Digital Beta y llegará a finales de verano.

La herramienta para verificar la edad de quien quiera ver contenido de adultos

Ya está disponible de manera pública la información técnica de cómo funcionará esta herramienta que en palabras de directora general de Gobernanza del Ministerio de Transformación Digital es complejo. Por ello ha querido explicar cómo funcionará con el siguiente ejemplo:

Si estás usando Telegram y estás intercambiando contenido para adultos, Telegram tiene la opción de llamar a nuestra aplicación y verificar que eres mayor de edad antes de que emitas o consumas ese contenido, es voluntario

Diagrama Control

La aplicación previamente va a tener que ser configurada con el DNI electrónico para que conozca nuestra identidad y por ende nuestra edad. Es por ello, que la plataforma de contenido de adultos solicitará una de las credenciales que se emitirá en forma de pack para comprobar la mayoría de edad. Para evitar que se pueda rastrear a una persona, cada credencial tendrá una caducidad de 30 días (y tres usos cada una), y se emitirá en cada solicitud 30 credenciales. Al final tenemos algo parecido a un carnet digital.

De esta manera, cuando se quiere consumir algún contenido en la web se va a mostrar un código QR que se tendrá que escanear con el teléfono para ofrecer la credencial de mayoría de edad. Y todo queda en el dispositivo móvil para evitar la trazabilidad, como se explica de la siguiente manera:

La aplicación se guarda en la parte segura del móvil y, una vez que se emite la credencial, se destruye la vinculación del juego de claves que se genera y la persona concreta. Con lo cual, la única trazabilidad queda dentro del teléfono móvil

En el caso de agotar las credenciales, se va a tener que volver a la aplicación para generar más, siendo este el sistema de seguridad más importante que existe. Una operación que en un futuro no será una opción para poder consumir este tipo de contenidos y es que a partir de octubre de 2027 la UE obligará a cumplir con el requisito de mayoría de edad.

Porno con inteligencia artificial y caras de mujeres reales: ya está sucediendo y hay gente que gana mucho dinero con esto

En Genbeta

Porno con inteligencia artificial y caras de mujeres reales: ya está sucediendo y hay gente que gana mucho dinero con esto

Ahora se está en búsqueda de las plataformas que van a integrar este tipo de sistema de seguridad para evitar el acceso de menores. Pero hay muchos problemas que ha reconocido el gobierno, como es la cantidad de plataformas que existen y lo difícil que es llegar a todas, así como los problemas en protección de datos. Lo más importante es asegurarse que las plataformas no se queden con más datos de los necesarios.

El Gobierno reconoce que ahora mismo este sistema se va a testear en España y los usuarios van a poder usar una red VPN para saltarse el control que se impone. Pero el ministro Escrivá defiende que estamos ante «la medida más necesaria y eficaz». Aluden en todo momento al incremento en el número de agresiones sexuales entre los menores para controlar este contenido, siendo un primer paso aunque insuficiente.

Ahora vamos a tener que esperar a este verano para comprobar cómo se va a ir implementando esta idea que está en una primera versión y que va a tener que ir evolucionando. Está limitada a los servicios de España, pese a que el objetivo es llegar a aquellos servicios asentados en Irlanda.

Esta herramienta se ha integrado dentro de la cartera digital española, donde en un futuro servirá para llevar en nuestro móvil diferentes contenidos como por ejemplo la titulación universitaria.

En Genbeta |


La noticia

Si quieres ver porno vas a tener que contar con un ‘carnet digital’ que caduca a los 30 días: así es la última medida del Gobierno

fue publicada originalmente en

Genbeta

por
José Alberto Lizana

.