🤖 ¿Creéis que un riesgo superior al 10% de extinción humana justificaría frenar el desarrollo de la inteligencia artificial, aunque China u otros laboratorios continuaran avanzando? Os leo en los comentarios.

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, ha dimitido y acusa a ambos laboratorios de competir irresponsablemente por alcanzar una superinteligencia capaz de mejorarse a sí misma. La respuesta de Evan Hubinger, responsable de alineamiento de Anthropic, resulta todavía más inquietante: reconoce que aún no existe un plan para controlar una futura superinteligencia y estima en más del 10% la posibilidad de que provoque una catástrofe existencial durante la próxima década.

Juan Ramón Rallo analiza si estas advertencias reflejan un peligro real o forman parte de la estrategia previa a una salida a bolsa. También examina por qué ninguna empresa ni país quiere detenerse unilateralmente, cómo la IA ya escribe más del 80% del código integrado por Anthropic y por qué coordinar un freno mundial resulta tan complicado.

¿Estamos ante una exageración, una campaña de marketing o una carrera tecnológica que nadie sabe detener?

👍 Dale a Me gusta si te ha resultado interesante
🛎️ Suscríbete y activa la campana en «Todas» para recibir los nuevos vídeos

━━━━━━━━━━━━━━━━━━━━━━
Apoya el canal:

▶️ Únete al canal: https://www.youtube.com/juanrallo/join
💰 Patreon: http://www.patreon.com/juanrallo
👕 Tienda Laissez Faire: https://laissez-faire.es
📺 Canal secundario: https://www.youtube.com/@JuanRallo2
🎥 Twitch: http://www.twitch.tv/juanrallo
💳 PayPal: https://bit.ly/2VEQ4QF
━━━━━━━━━━━━━━━━━━━━━━

#inteligenciaartificial #ia #anthropic #openai #chatgpt #claude #superinteligencia #riesgoexistencial #seguridadia #tecnologia #juanramonrallo #rallo

0:00 Quienes crean la IA creen que podría extinguirnos
2:09 La dimisión de Jacob Coxon
3:40 Tres advertencias sobre la superinteligencia
4:23 Investigadores que abandonan los laboratorios
5:43 Anthropic admite un riesgo superior al 10%
6:32 El peligro de la automejora recursiva
7:10 Claude ya escribe más del 80% del código
8:05 ¿Una campaña para preparar la salida a bolsa?
9:59 La propuesta de Bernie Sanders para frenar la IA
10:45 ¿Buscan las empresas una regulación proteccionista?
11:54 El nuevo y potente modelo interno de OpenAI
13:21 El salto respecto a GPT-6 Astra
14:39 Un modelo superior desarrollado en dos semanas
15:22 La capacidad avanza más rápido que el alineamiento
17:10 ¿Por qué los investigadores continúan trabajando?
18:05 La carrera que ninguna empresa puede abandonar
20:13 Coordinar un freno entre los laboratorios
21:14 El dilema del prisionero de la inteligencia artificial
22:35 La objeción de conciencia de los investigadores
23:48 Cuando la inteligencia artificial se construye a sí misma
24:23 Un problema de alineamiento todavía sin resolver
25:25 Un 10% de extinción y un 90% de oportunidad