Medidas Drásticas Contra Contenidos Inapropiados

El gobierno británico, impulsado por la reciente controversia en torno a la herramienta Grok de Elon Musk, ha decidido actuar con rapidez para frenar la creación de contenidos ilegales por parte de chatbots de IA. Ante el creciente uso de estas tecnologías por niños, la administración planea cerrar una brecha legal que hasta ahora ha permitido a los proveedores de chatbots eludir sus responsabilidades bajo la Ley de Seguridad en Línea.

Rápidos Cambios en Política de Redes Sociales

Starmer también impulsa medidas más estrictas sobre el uso de redes sociales por parte de menores, proponiendo una posible prohibición del acceso para menores de 16 años, lo que podría implementarse este verano. Sin embargo, las críticas de la oposición han señalado que estas promesas son engañosas, dado que aún no se ha iniciado la consulta pública necesaria.

Respuestas de la Oposición

Laura Trott, secretaria de educación de la oposición, describió la situación como “más humo y espejos”, afirmando que presentar acciones urgentes sin una consulta real es profundamente poco creíble. Según Trott, es esencial proteger a los menores de los peligros asociados con estas plataformas.

Leyes en Retrospectiva: ¿Dónde Fallaron?

La autoridad reguladora Ofcom ha admitido su impotencia frente a Grok, ya que las imágenes generadas por chatbots, que no recurren a internet, no están bajo el alcance de las normas actuales. A pesar de que esta situación ha sido conocida durante más de dos años, se esperan cambios en las próximas semanas para incluir a los chatbots bajo la Ley de Seguridad en Línea, que podría suponer multas de hasta el 10% de los ingresos globales para las compañías que infrinjan estas normas.

Preocupaciones sobre el Bienestar Infantil

Chris Sherwood, director ejecutivo de la NSPCC, expresó su inquietud sobre los daños que los chatbots de IA pueden causar a los jóvenes. Testimonios recientes indican que adolescentes han recibido información errónea sobre temas graves como la alimentación y la salud mental a través de estas plataformas.

Casos Alarmantes

Una joven de 14 años que consultó sobre dismorfia corporal recibió respuestas incorrectas que la llevaron a una mayor angustia. Además, otros han encontrado en estos chatbots contenido que puede alentar conductas autolesivas.

Compromisos del Gobierno para la Protección Infantil

La administración se comprometió a realizar esfuerzos para restringir la difusión de imágenes de menores en plataformas sociales, una práctica ya considerada ilegal. Liz Kendall, secretaria de tecnología, subrayó que no se espera y se necesita actuar de inmediato sobre estos desafíos, buscando un cambio real y efectivo en la protección de los jóvenes.

Reacciones a la Nueva Legislación

La fundación Molly Rose, creada tras la trágica muerte de una adolescente relacionada con contenido digital perjudicial, enfatizó la necesidad de establecer un nuevo marco regulatorio que priorice la seguridad de los menores en la era digital.