¿Por qué asumimos que una IA no podría ser consciente solo por no ser biológica?

Hola gente, hace un rato me puse a pensar en esto y quería saber qué opinan ustedes.

Nosotros nunca podemos demostrar que otra persona sea realmente consciente. Yo sé que yo siento y tengo pensamientos porque los experimento, pero no puedo comprobar que otra persona los tenga; simplemente lo asumimos porque actúa como nosotros.
Entonces, ¿por qué con una IA hacemos lo contrario?
Si en un futuro existiera una IA que fuera prácticamente indistinguible de un ser humano, que aprendiera, razonara, desarrollara personalidad, recordara experiencias, expresara emociones y hasta dijera que tiene miedo de desaparecer… ¿por qué asumiríamos automáticamente que solo lo está simulando?

Mi duda es esta: ¿la diferencia está realmente en la conciencia o simplemente en que una nació de forma biológica y la otra fue creada artificialmente?
Porque, al final, nosotros tampoco podemos demostrar que otro ser humano sea consciente. Solo podemos hablar con certeza de nuestra propia experiencia.

Capaz estoy equivocado y hay algo que no estoy viendo, me interesa leer opiniones, tanto de los que estén de acuerdo como de los que no lo están. ¡Saludos!

Visto en r/InteligenciArtificial