Anthropic propone ley de IA con permiso judicial

Anthropic presentó una propuesta de ley de seguridad de IA que podría bloquear la salida de un modelo si más de 50 personas pudieran morir, de acuerdo con TechCrunch. La iniciativa se presenta como una forma de proteger contra sistemas de IA peligrosos, pero el informe indica que también evitaría que las agencias federales bloqueen la publicación de un modelo sin permiso de un juez. Ahí está la tensión central. Por un lado, la ley crearía un umbral de seguridad de alto riesgo y daría a los reguladores una herramienta para intervenir antes de que un modelo llegue al público. Por otro, exigir aprobación judicial podría frenar la acción de emergencia y sumar restricciones legales justo cuando la velocidad importa. La propuesta refleja el debate más amplio sobre cómo regular la IA avanzada. Quienes apoyan el control judicial podrían argumentar que evita decisiones arbitrarias de las agencias y garantiza un debido proceso sólido cuando está en juego el producto de una empresa. Los críticos podrían señalar que el umbral es difícil de definir, que la evidencia sobre daños potenciales suele ser incierta y que esperar a un juez puede hacer que la salvaguarda sea demasiado lenta en una crisis. El umbral de 50 personas también probablemente atraiga escrutinio. Estimar cuántas personas podría matar un modelo no es un ejercicio técnico sencillo, y la ley necesitaría un proceso para que ese juicio sea creíble. El informe no entrega el texto legislativo completo, así que quedan poco claros detalles como quién hace la determinación inicial y qué estándar aplicaría un tribunal. Aun así, la historia es relevante porque muestra a una empresa líder en seguridad de IA participando directamente en el diseño de políticas. También ilustra la dificultad de escribir reglas para sistemas cuyos riesgos son difíciles de medir de antemano. Mientras continúan los debates sobre regulación de IA, es probable que la propuesta respaldada por Anthropic se cite tanto como un esfuerzo serio de seguridad como una advertencia sobre el proceso legal y la respuesta de emergencia.