línea superior
Dieciocho países, incluido Estados Unidos, lo han emitido. Acuerdo internacional El domingo se centró en mantener la IA segura durante el desarrollo y la implementación, y pidió a las empresas de IA que crean y utilizan sistemas de IA que los hagan «seguros por diseño» contra los malos actores: la última iniciativa intergubernamental que aborda el desarrollo y la seguridad de la IA.
Hechos clave
Fueron las pautas de seguridad de la IA. Publicado conjuntamente Por la Agencia de Seguridad de Infraestructura y Ciberseguridad del Departamento de Seguridad Nacional de EE. UU. y el Centro Nacional de Seguridad Cibernética del Reino Unido.
Sin compromiso 20 páginas El acuerdo dice Las empresas de IA deben mantener a sus clientes y al público en general a salvo del uso indebido de los sistemas de IA a medida que los desarrollan, implementan y mantienen.
el acuerdo Incluye recomendaciones Sobre mantener seguros los sistemas de inteligencia artificial, incluido monitorear el uso indebido, proteger los datos de los piratas informáticos, garantizar la legitimidad de los proveedores de software y asesorar a las empresas para que publiquen modelos después de las pruebas de seguridad.
Pautas Esquema de los pasos Asegurar los sistemas de inteligencia artificial a través de las fases de diseño, desarrollo, implementación y mantenimiento.
Alemania, Italia, Noruega, Australia, Chile, Nigeria y Singapur entre paises Lo cual es parte del acuerdo.
cita critica
«Esta es la primera vez que vemos la confirmación de que estas capacidades no deberían limitarse a qué características son interesantes y qué tan rápido podemos llevarlas al mercado o cómo podemos competir para mantener los costos bajos», dice Jane Easterly, directora de EE. UU. de ciberseguridad. agencia de seguridad de infraestructura, Decir Reuters.
Fondo principal
En octubre, el presidente Joe Biden emitió una orden ejecutiva de amplio alcance centrada en proteger contra los “riesgos potenciales de la IA” y alentar a las agencias gubernamentales y a la industria tecnológica a abordar las cuestiones de privacidad, confianza y seguridad relacionadas con el desarrollo de la IA. La orden también establece que las empresas de IA que desarrollen sistemas de IA que puedan amenazar la seguridad nacional, la economía o la salud pública tendrán que compartir los resultados de las pruebas de seguridad y otra información relevante con el gobierno de los EE. UU. en virtud de la Ley de Producción de Defensa de la era de la Guerra Fría. A principios de este mes, Alemania, Francia e Italia se unieron a un acuerdo sobre regulación de la IA, diciendo que apoyan la “autorregulación obligatoria a través de códigos de conducta” para los modelos de IA, según Reuters. mencionado. Los legisladores europeos lo han hecho Él estaba a la cabeza Estados Unidos está en el proceso de redactar legislación relacionada con el desarrollo y la seguridad de la inteligencia artificial, incluidas reglas para el reconocimiento facial y la vigilancia biométrica, pero la Unión Europea también ha enfrentado reveses al finalizar su proyecto. Ley de Inteligencia Artificial.
lectura en profundidad
La Casa Blanca presenta una estrategia de inteligencia artificial “integral” mientras Biden busca transparencia y seguridad (Forbes)
Elon Musk asistirá mañana a la histórica Cumbre de seguridad de la IA: aquí encontrará quién más asistirá y qué debe saber (Forbes)
Dolores Redondo es colaboradora en El Demócrata, donde cubre una amplia variedad de temas, incluyendo actualidad, política, negocios, tecnología, deportes, entretenimiento y estilo de vida. Se enfoca en brindar información clara y útil sobre los acontecimientos del momento, ofreciendo a los lectores historias relevantes y perspectivas accesibles sobre temas de interés general.