Safe Superintelligence se alía con NVIDIA para escalar su IA segura

Safe Superintelligence (SSI), el laboratorio de investigación en IA fundado por el reconocido pionero Ilya Sutskever, ha salido de dos años de modo sigiloso con un anuncio importante: una alianza estratégica a largo plazo con NVIDIA. La colaboración está diseñada para escalar la investigación de SSI hacia una inteligencia artificial general (AGI) segura, aprovechando la infraestructura de cómputo de vanguardia de NVIDIA. Sutskever, quien anteriormente cofundó OpenAI, ha sido vocal sobre los riesgos existenciales que plantea una superinteligencia no alineada. La misión de SSI es construir sistemas de IA que no solo sean poderosos, sino también inherentemente seguros y alineados con los valores humanos. La alianza con NVIDIA proporciona la base computacional necesaria para entrenar y probar modelos a gran escala mientras se mantienen estrictos protocolos de seguridad. "Esta colaboración marca un paso significativo hacia la realización de una AGI que sea capaz y confiable", dijo un portavoz de SSI. "Los ecosistemas de hardware y software de NVIDIA son esenciales para empujar los límites de lo posible en la investigación de IA". La participación de NVIDIA incluye sus últimas arquitecturas de GPU, como las plataformas Blackwell y Hopper, así como sus stacks de software CUDA y TensorRT. Estas herramientas permitirán a SSI ejecutar simulaciones complejas, experimentos de alineación y evaluaciones de seguridad a una escala antes inalcanzable. El anuncio señala un cambio en el panorama de la IA, donde los laboratorios centrados en la seguridad ya no operan de forma aislada, sino que forman alianzas con gigantes del hardware para acelerar el progreso. A medida que se intensifica la carrera hacia la AGI, la alianza de SSI con NVIDIA podría establecer un nuevo estándar sobre cómo la industria equilibra la innovación con la precaución.