🛑 ¿Frenar la inteligencia artificial es una medida de seguridad o una forma de proteger el negocio de las grandes tecnológicas? ¿Aceptaríais una pausa si sus competidores pudieran seguir avanzando? Debatidlo en comentarios, os leo.

Juan Ramón Rallo analiza la propuesta de Dario Amodei, de Anthropic, y las posiciones de Sam Altman, Elon Musk y Demis Hassabis sobre los límites al desarrollo de nuevos modelos. El debate conecta la seguridad tecnológica con los incentivos empresariales, la competencia y la rivalidad entre Estados Unidos y China.

¿Qué es la automejora recursiva y por qué podría acelerar la llegada de una superinteligencia? ¿Cómo se comprueba que un sistema cada vez más potente actúa de acuerdo con los intereses humanos? El análisis examina el problema del alineamiento, las evaluaciones independientes y los posibles efectos de una regulación que limite la competencia. También plantea una dificultad decisiva: cómo verificar que todos respetan un acuerdo para frenar.

👍 Dale a Me gusta si te ha resultado interesante
🛎️ Suscríbete y activa la campana en «Todas» para recibir los nuevos vídeos

━━━━━━━━━━━━━━━━━━━━━━
Apoya el canal:

▶️ Únete al canal: https://www.youtube.com/juanrallo/join
💰 Patreon: http://www.patreon.com/juanrallo
👕 Tienda Laissez Faire: https://laissez-faire.es
📺 Canal secundario: https://www.youtube.com/channel/UCcniMHbAiXnvp17zP0LLBbw
🎥 Twitch: http://www.twitch.tv/juanrallo
💳 PayPal: https://bit.ly/2VEQ4QF
━━━━━━━━━━━━━━━━━━━━━━

#InteligenciaArtificial #Superinteligencia #Anthropic #OpenAI #DarioAmodei #SamAltman #ElonMusk #GoogleDeepMind #RegulacionIA #JuanRamonRallo

0:00 ¿Por qué los laboratorios piden frenar?
2:15 La propuesta de Dario Amodei
2:56 Qué es la automejora recursiva
3:52 Nick Bostrom y la explosión de inteligencia
6:11 El caso de OpenAI y Hugging Face
7:36 Un plan para evaluar y limitar los riesgos
7:52 Evaluadores independientes dentro de los laboratorios
8:57 Coordinación y límites al desarrollo de modelos
10:15 El debate sobre los acuerdos entre competidores
11:09 La propuesta de coordinación con China
12:36 Las respuestas de Altman, Musk y Hassabis
15:00 El sistema de evaluación propuesto por Google
16:20 ¿Seguridad o protección frente a la competencia?
17:18 Qué significa alinear la inteligencia artificial
18:54 Más capacidades y mayores riesgos potenciales
20:39 Qué sabemos sobre la automejora recursiva
22:36 ¿Una estrategia para la salida a bolsa?
23:32 ¿Se está frenando la mejora de los modelos?
24:37 La competencia de los modelos chinos
26:16 El negocio de vender capacidad de cómputo
28:14 La carrera tecnológica entre Estados Unidos y China
29:48 Por qué una pausa depende de ambas potencias
31:04 La dificultad de verificar un acuerdo
32:15 Los incentivos para seguir desarrollando en secreto
33:33 Querer frenar y poder hacerlo