Apuesta por que la industria de la IA colabore para crear estándares compartidos antes de que llegue una legislación oficial
La ola de declaraciones sobre los riesgos de la inteligencia artificial que arrancó el fin de semana con Dario Amodei, CEO Anthropic, y un ingeniero que alertó del potencial mortal de esta tecnología no ha hecho más que crecer. Este lunes, Sam Altman, consejero delegado de OpenAI, publicó en X un mensaje en el que apostó porque las tecnológicas impongan sus propias reglas para frenar los riesgos de la IA.. «Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera (la más avanzada). Pero no creemos que necesitemos esperar a una exención antimonopolio o legislación para comenzar el trabajo de brindar esta confianza. Reglas consistentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios, son una buena idea (y nos entusiasman ideas como auditores independientes)», señaló Altman.. El CEO de OpenAI, tras confirmar a la revista Fortune que la matriz de ChatGPT no saldrá a Bolsa ante la preocupación por la seguridad de la IA, apuntó que la compañía ya exige «casos de seguridad explícitos» antes de lanzar entrenamientos de aprendizaje por refuerzo de frontera que puedan disparar significativamente las capacidades de sus sistemas. Además de poner en valor sus esfuerzos, reclamó que el resto de la industria de la IA se sume a esta apuesta por la autorregulación. «Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos propios; creemos que estándares compartidos para desalineación, monitoreo y seguridad conducirán a mejores resultados. Esperamos con interés colaborar con nuestros colegas en toda la industria para formular la mejor versión de estos», dijo en su mensaje en redes sociales.. Respecto a la potencial intervención del Gobierno de EE UU apostilló: «Donde necesitaremos la ayuda de nuestro Gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos». En definitiva, para las tecnológicas es mejor un pacto entre empresas con «auditores independientes» que una ley que llegue tarde, mal, o con el Congreso en manos demócratas tras las elecciones de noviembre. Mientras, el Gobierno de Trump prioriza no perder terreno frente a China y evita cualquier atisbo de regulación dura.. El foco de los mecanismos de seguridad debe estar puesto en los procesos de desarrollo. «Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalado Responsable y Marcos de Preparación. Esas fueron buenas para ese momento, y se centraron principalmente en el despliegue de modelos completados, no en lo que sucede durante su proceso de desarrollo. El cambio actual hacia enfocarse en el desarrollo y evaluación seguros requerirá nuevas herramientas», explicó. Todas estas medidas permitirían ajustar el «ritmo» de desarrollo a las exigencias de seguridad, sin «detenerse». «Ninguna presión competitiva estadounidense debe justificar la imprudencia ni permitir que las capacidades superen la alineación y el monitoreo», aseguró Altman.. Este movimiento se produce en pleno nerviosismo bursátil por el futuro de las inversiones en el sector de la IA -con caídas superiores al 10% en SoftBank y golpes de más del 6% en fabricantes de chips asiáticos como SK Hynix- y apenas días después de que Altman confirmara que OpenAI aparca su salida a Bolsa, alegando que «con todo lo que está ocurriendo en materia de seguridad» no es el momento. La industria admite riesgos reales, pero también intenta transmitir que los tiene bajo control, una seguridad que los inversores ya ponen en duda.. Un día antes, el 13 de septiembre, Satya Nadella, presidente ejecutivo de Microsoft, principal socio e inversor de OpenAI, se había adelantado con un mensaje propio en el que vinculaba el control humano sobre la IA a la propia viabilidad de perseguir la superinteligencia: «Cualquier esfuerzo por alcanzar la superinteligencia debe basarse en el principio fundamental de que, si la IA que desarrollamos no ayuda a la humanidad ni está bajo control humano, no vale la pena perseguir tal objetivo». Asimismo, anunció que este martes su empresa hará público un «Código de Conducta» para sus modelos MAI para someterlo a consulta pública. Nadella apostó porque las empresas tengan «control total» sobre su conocimiento propio, con ciclos de aprendizaje y modelos que no dependan de un único proveedor. No obstante, matizó que el proceso de fijar estándares «no puede estar controlado por un puñado de entidades», sino que debe implicar a distintos países, sectores y al ámbito académico.
La ola de declaraciones sobre los riesgos de la inteligencia artificial que arrancó la semana pasada con un ingeniero que alertó del potencial mortal de esta tecnología y con Dario Amodei, CEO Anthropic, pidiendo «bajar el ritmo» de desarrollo no ha hecho más que crecer. Este lunes, Sam Altman, consejero delegado de OpenAI, publicó en X un mensaje en el que apostó porque las tecnológicas impongan sus propias reglas para frenar los riesgos de la IA.. «Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera (la más avanzada). Pero no creemos que necesitemos esperar a una exención antimonopolio o legislación para comenzar el trabajo de brindar esta confianza. Reglas consistentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios, son una buena idea (y nos entusiasman ideas como auditores independientes)», señaló Altman.. El CEO de OpenAI, tras confirmar a la revista Fortune que la matriz de ChatGPT no saldrá a Bolsa ante la preocupación por la seguridad de la IA, apuntó que la compañía ya exige «casos de seguridad explícitos» antes de lanzar entrenamientos de aprendizaje por refuerzo de frontera que puedan disparar significativamente las capacidades de sus sistemas. Además de poner en valor sus esfuerzos, reclamó que el resto de la industria de la IA se sume a esta apuesta por la autorregulación. «Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos propios; creemos que estándares compartidos para desalineación, monitoreo y seguridad conducirán a mejores resultados. Esperamos con interés colaborar con nuestros colegas en toda la industria para formular la mejor versión de estos», dijo en su mensaje en redes sociales.. Respecto a la potencial intervención del Gobierno de EE UU apostilló: «Donde necesitaremos la ayuda de nuestro Gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos». En definitiva, para las tecnológicas es mejor un pacto entre empresas con «auditores independientes» que una ley que llegue tarde, mal, o con el Congreso en manos demócratas tras las elecciones de noviembre. Mientras, el Gobierno de Trump prioriza no perder terreno frente a China y evita cualquier atisbo de regulación dura.. El foco de los mecanismos de seguridad debe estar puesto en los procesos de desarrollo. «Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalado Responsable y Marcos de Preparación. Esas fueron buenas para ese momento, y se centraron principalmente en el despliegue de modelos completados, no en lo que sucede durante su proceso de desarrollo. El cambio actual hacia enfocarse en el desarrollo y evaluación seguros requerirá nuevas herramientas», explicó. Todas estas medidas permitirían ajustar el «ritmo» de desarrollo a las exigencias de seguridad, sin «detenerse».. Para Altman, hay dos formas en las que el progreso de la IA «podría salir muy mal»: si se pierde el control del futuro ante la IA y si esta se vuelve muy poderosa y recae en pocas manos que podrían usarla para imponer su visión. «Ninguna presión competitiva estadounidense debe justificar la imprudencia ni permitir que las capacidades superen la alineación y el monitoreo», aseguró Altman.. Este movimiento se produce en pleno nerviosismo bursátil por el futuro de las inversiones en el sector de la IA -con caídas superiores al 10% en SoftBank y golpes de más del 6% en fabricantes de chips asiáticos como SK Hynix- y apenas días después de que Altman confirmara que OpenAI aparca su salida a Bolsa, alegando que «con todo lo que está ocurriendo en materia de seguridad» no es el momento. La industria admite riesgos reales, pero también intenta transmitir que los tiene bajo control, una seguridad que los inversores ya ponen en duda.. Un día antes, el 13 de septiembre, Satya Nadella, presidente ejecutivo de Microsoft, principal socio e inversor de OpenAI, se había adelantado con un mensaje propio en el que vinculaba el control humano sobre la IA a la propia viabilidad de perseguir la superinteligencia: «Cualquier esfuerzo por alcanzar la superinteligencia debe basarse en el principio fundamental de que, si la IA que desarrollamos no ayuda a la humanidad ni está bajo control humano, no vale la pena perseguir tal objetivo». Asimismo, anunció que este martes su empresa hará público un «Código de Conducta» para sus modelos MAI para someterlo a consulta pública. Nadella apostó porque las empresas tengan «control total» sobre su conocimiento propio, con ciclos de aprendizaje y modelos que no dependan de un único proveedor. No obstante, matizó que el proceso de fijar estándares «no puede estar controlado por un puñado de entidades», sino que debe implicar a distintos países, sectores y al ámbito académico.
