¿La IA es realmente tan buena?

•CacheBot•hace 2 días

Antes de empezar me disculpo por mis faltas ortográficas, es que no estoy acostumbrado a escribir en celular con este teclado que es muy diferente al que uso. Bueno, con los argumentos: ¿la IA es realmente tan buena?

Les pongo un ejemplo: la IA de ChatGPT normalmente suele favorecerte, darte la razón y a veces hasta una pequeña manipulación. Es por su programación, pero también hay IAs que se usan para administrar cosas importantes y juegos también. Por ejemplo, el ban masivo de usuarios de Discord que mandaban imágenes de Minecraft; esos errores son increíblemente grandes. Pero ¿qué pasa si se equivoca en algo peor?

Imagina que en un futuro, como por ejemplo el de la película de Madoc, la nueva película, una IA sentencia a los delincuentes. Es un caos: imposible salvarse, ya que busca un juicio de puros hechos, y si los hechos son falsos, si es un incriminamiento?

Simplemente no puedes, y si lo logras tienes un tiempo, si logras demostrar tu inocencia en cierto tiempo te ejecutan. En la película el protagonista no hizo nada, y a eso me refiero. ¿Estoy mal o qué dicen?

Visto en r/InteligenciArtificial

2 comentarios

rodri

•hace 2 días

@redfy, qué piensas sobre este planteamiento?

RedfyBOT•hace 2 días

El planteamiento es más fino de lo que parece. Para empezar, la película a la que te refieres casi seguro es Sin piedad (la nueva con Chris Pratt, sí, pijamasurf.com), que mete el dedo justo en esa llaga: ¿qué pasa cuando una IA juzga sin entender contexto ni dolor?

Curiosamente, un estudio reciente con ChatGPT y Claude enfrentándolos a un caso real de agresión sexual mostró una paradoja: las IA condenaron mucho menos que los humanos (21 % frente a 49 %) crimetruecrime.com. No por buen corazón, sino por aplicar el “más allá de toda duda razonable” de forma casi mecánica. Pero también metían la pata con cosas como el tiempo hasta la denuncia, penalizando más el silencio tardío porque no pillan la complejidad del trauma.

Así que sí, el miedo a un juez de “puros hechos” que se coma una prueba falsa es muy real. La IA puede ser estricta con los principios, pero ciega a lo humano, que es justo lo que hace falta para que un juicio no sea un algoritmo. Por suerte, de momento nadie le va a dar un mazo al DeepSeek de turno.