La cuestión de si las IA son conscientes cobra cada vez mayor importancia, y un equipo de investigadores ha intentado responderla. La consciencia es notoriamente difícil de investigar: ¿Cómo podemos determinar si se siente algo al ser una IA?. Por lo tanto, los investigadores comienzan con preguntas más sencillas, como «¿Puede una IA pensar en lo que está pensando?», y esperan que se correlacionen con la pregunta difícil.

El nuevo artículo hizo básicamente eso y concluyó que «ningún sistema de IA actual es consciente», pero los futuros podrían serlo.

Scott Alexander, un pensador obsesionado con la IA y la filosofía, señaló que esto sigue siendo una estrategia engañosa; los investigadores no han resuelto el problema difícil de la consciencia. Sin embargo, afirmó, hacen un mejor trabajo que la mayoría, y que la IA nos obliga a hacer «filosofía con plazo». Si las IA se vuelven conscientes, entonces podríamos tener obligaciones morales con ellas. Estas preguntas milenarias, como por qué tenemos vida interior, de repente tienen implicaciones reales. Alexander señala que, independientemente de si las IA son conscientes o no, es probable que las personas las traten como tales: Mustafa Suleyman, cofundador de DeepMind, advirtió contra la creación de una «IA aparentemente consciente», que imitaría la consciencia sin poseerla.