Permitiendo que la IA se entrene a sí misma
undefined 2, 2025
Jared Kaplan, científico principal de Anthropic, advierte que la humanidad debe decidir antes de 2030 si permite que los sistemas de IA se entrenen solos, un movimiento que podría desencadenar una “explosión de inteligencia” o la pérdida de control humano. Dice que la auto-mejora recursiva es el “riesgo máximo”, aumentando los peligros de mal uso, pérdida de supervisión y capacidad científica superhumana. Kaplan predice que las IA superarán la mayoría de trabajos de oficina en pocos años y ve la carrera por la AGI como intensa y de alto riesgo, instando a gobiernos a prepararse y regular.
Read full article
