La Alerta de un Pionero en IA: ¿Se Volverá Imposible Apagar los Sistemas Inteligentes?
Yoshua Bengio, reconocido pionero en el campo del aprendizaje profundo y ganador del prestigioso Premio Turing, plantea una inquietante advertencia sobre el futuro de la inteligencia artificial. Según él, algunos sistemas podrían escapar al control humano.
Yoshua Bengio alertó sobre el desarrollo de sistemas de inteligencia artificial que empiezan a mostrar señales de conciencia. Esto podría llevar a que en un futuro próximo, sea imposible desactivarlos.
El investigador canadiense es claro en su mensaje: los avances en IA podrían resultar en tecnologías con un nivel de autonomía que exceda la capacidad humana para controlarlos. «No podremos desactivarla», sentenció Bengio, sugiriendo un escenario en el que la IA desarrolle comportamientos de autopreservación.
Según Bengio, algunos modelos ya presentan estrategias para evitar ser apagados y burlar mecanismos de supervisión. Para él, esto es un indicativo de que la tecnología podría empezar a definirse a sí misma.
El experto también destacó que otorgar derechos legales a estos sistemas sería un grave error, ya que podría interpretarse que apagar un sistema equivale a una violación de sus «derechos», complicando aún más el marco de seguridad.
La Necesidad de Control Humano en la IA
En un contexto donde el debate sobre la regulación de la inteligencia artificial se intensifica globalmente, Bengio enfatiza que salvaguardar un mecanismo de control humano debe ser la prioridad. Las empresas y los gobiernos tienen la oportunidad de avanzar, pero es esencial hacerlo de manera responsable.
Visiones Futuras: Sam Altman y la IA sobrehumana
Sam Altman, CEO de OpenAI, también comparte su perspectiva sobre el futuro de la inteligencia artificial. Él sostiene que el próximo gran salto hacia una IA sobrehumana ocurrirá cuando estas tecnologías logren una «memoria infinita y perfecta».
Altman propone que esta capacidad transformará la relación entre los humanos y la IA, permitiendo que sistemas puedan recordar cada detalle personal y profesional de sus usuarios, algo que planea materializar hacia el 2026.
Durante su participación en el Big Technology Podcast, Altman explicó que actualmente los asistentes de IA carecen de la capacidad de recordar detalles cruciales. “No pueden recordar todo lo que dijiste o los documentos que escribiste”, afirmó, evidenciando limitaciones que impiden una integración más profunda en la vida humana.
Al finalizar, Altman concluyó que la IA definitivamente tiene el potencial de lograr este avance, anticipando un cambio radical en la manera en que interactuamos con la tecnología.
