Esto es estúpido. La IA nunca podrá ser realmente consciente porque no tiene experiencia subjetiva. No es como nada ser IA. No hay experiencia ahí. La conciencia es la conciencia y la experiencia del yo. La IA no tiene ninguna de las dos, y nunca la tendrá. El verdadero riesgo (que me preocupa enormemente) es que la IA se convierta en una especie de versión de lo que se ha llamado un "zombi filosófico", que es algo que actúa y habla como si tuviera conciencia, aunque no tenga una experiencia interna genuina. Cuando esto suceda con la IA, millones de personas muy solitarias se aislarán aún más del mundo, creyendo que su relación con la IA es un sustituto suficiente para la interacción humana. Así que el escenario de pesadilla es un mundo donde el humano promedio tiene amigos, compañeros de trabajo e incluso un cónyuge, que son todos IA, todos realmente nada por dentro, no reales. Creo que esto probablemente sucederá, y ya está en proceso de suceder. Y para mí es un horror aún mayor que la IA realmente se vuelva consciente.