Me interesé por la superinteligencia después de escuchar y leer a Bostrom, aunque en esa época todo sonaba muy lejano en el futuro. En este Ted Talk seminal, Bostrom desmonta todas las escalas humanas: si la Tierra tuviera un año, la humanidad tendría diez minutos y la era industrial, dos segundos; imaginamos la inteligencia como poner al "tonto del pueblo" en un extremo y a Einstein en el otro, cuando para una máquina esa distancia es minúscula. Una superinteligencia tendría a su alcance todo lo que la física permite y el futuro tomaría la forma de sus preferencias, no de las nuestras. Es la última invención que la humanidad necesitará hacer, así que más vale acertar a la primera.
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«El libro elabora el tema del Ted Talk, de una manera más técnica y tal vez más alarmista.»
«Tim Urban explica las ideas de Bostrom y otros con monigotes y un estilo ameno pero que deja la sensación que el buscaba provocar hace años, mucho antes de las IAs que conocemos en 2026... ¿por qué no está todo el mundo hablando de esto?»
«La película de Ex Machina hace sentir, de manera mucho más visceral que Bostrom, el miedo a enfrentarse a una inteligencia muy superior. Es muy diferente el ejemplo de Bostrom de una IA que conquista el espacio – y de paso se carga a la humanidad – por un fin banal mal programado ("producir más clips") de una robot humanizada que manipula emociones.»
«Karnofsky y Bostrom son dos de los pensadores más importantes en este espacio, comparten la visión de riesgos existenciales pero también de la inmensa oportunidad que se abre. Bostrom en su charla se centra en explicar lo que supone y Karnofsy lo aplica a todo: economía, sociedad, avances científicos.»