Que la inteligencia artificial (IA) se desarrolle hasta niveles inconcebibles y controle gran parte de la vida humana podría sonar a una teoría conspiratoria. Sin embargo, la advertencia adquiere otro tono cuando quien la plantea es un ingeniero de software británico que trabajó en OpenAI y Anthropic.
Jacob Coxon, de 27 años, dejó su trabajo soñado porque está en desacuerdo con el papel que han asumido las compañías en el uso de esta tecnología, la cual podría alcanzar “capacidades sobrehumanas” y representar un riesgo. Asegura que las empresas no actúan con responsabilidad y están “jugando con nuestras vidas”.
También plantea que este es el momento indicado para poner un freno y pausar el desarrollo de la inteligencia artificial, por lo que dejó su puesto en Anthropic, donde trabajó durante los últimos tres años.
Lee también
Aseveró que pronto existirán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar todos los ámbitos y adquirir poder y recursos reales.
A través de un hilo en X, lanzó su mensaje:
“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando”.
Señala que ambas empresas, Anthropic y OpenAI, están en una carrera para desarrollar la tecnología más novedosa, a pesar de los riesgos.
Puntualizó que también existen acuerdos con gobiernos, como el de Estados Unidos, por lo que suman esfuerzos y aceleran el desarrollo.
En su publicación, lanzó una invitación a todos los desarrolladores e incluso a las empresas para cerrar filas y hacer frente a los riesgos de la IA.
“Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’ o aprovechar este momento para pedir condiciones diferentes?”, plantea.