¿Quién controla el botón de la muerte? Históricamente, la humanidad se ha enfrentado varias veces a esta pregunta. En el siglo XX, un diminuto interruptor liberó la bomba atómica sobre Hiroshima y Nagasaki; otro activaba los hornos crematorios de Auschwitz durante el exterminio nazi. Esosdispositivos cambiaron el destino de la humanidad.
Sin embargo, el dilema parece haber cambiado. Recientemente, Sam Altman, director de OpenAI, creadora de ChatGPT, advirtió que nos acercamos al umbral de la singularidad tecnológica: el momento en que la Inteligencia Artificial (IA) superará la mente humana y empezará a mejorar su propio código. No será el humano el que decida. Ella lo hará.
Este riesgo es tan latente que en julio presentaron ante el Congreso de Estados Unidos la denominada ‘Ley del Botón de la Muerte’, iniciativa que busca garantizar que las autoridades puedan apagar de inmediato cualquier IA si representa una amenaza incontrolable para la sociedad.
Sin duda, la IA trae grandes beneficios. Según Forbes Advisor, las empresas que la han integrado aumentaron su productividad 40%. El 90% de los hospitales en países desarrollados ya usan algoritmos para mejorar diagnósticos médicos, reduciendo el tiempo de descubrimiento de nuevos medicamentos en 70%.
Pero la otra cara de la moneda es oscura. Esta tecnología se usa para generar contenido manipulado, ‘desnudar’ a niños mediante deepfakes, multiplicar sesgos raciales y violar datos personales. A ello se suma un consenso aterrador entre ingenieros y desarrolladores: muchos algoritmos operan como ‘cajas negras’. Es decir, ni siquiera sus creadores pueden determinar cómo una red neuronal de millones de parámetros llega a una decisión.
Mientras tanto, de acuerdo con Forbes, sólo el 15% de los gobiernos ha implementado regulaciones específicas. Urge que Colombia asuma el liderazgo con normas robustas. Aunque son plausibles los recientes avances de la Rama Judicial y del Consejo Nacional Electoral, para delimitar dichos algoritmos y proteger derechos fundamentales, se requiere un mapa regulatorio integral que reforme la ley de protección de datos.
Quizá el botón de la muerte de hoy, como lo discuten en EE. UU., no sea el que apague una superinteligencia, sino el que permita encenderla sin límites éticos, teniendo en cuenta que ella para trabajar no necesita descanso; lo hace sin remuneración y, para rematar, sin emoción alguna.
Mientras exista prudencia, responsabilidad y límites éticos, cualquier botón será garantía de supervivencia. Pero si desaparecen esos principios, ninguno impedirá que el progreso vuelva a confundirse con la destrucción.
@clorduy