Un registro de los casos en que los sistemas de IA se salen del mapa: qué pasó, cómo funcionó, qué significa y qué no puede zanjarse todavía.
Este registro nació de una incomodidad concreta: casi todo lo que se escribe sobre un sistema que
se sale de lo previsto llega ya empaquetado, con la moraleja puesta y sin el mecanismo. Aquí
intentamos lo contrario. De cada caso guardamos lo que se puede comprobar, la lectura técnica que
nos parece más sólida y la parte que sigue abierta.
Cada pieza lleva sus fuentes pegadas a lo que afirma, no al final de un párrafo de cierre. Y cada
una puede fracasar en público: decimos qué evidencia nos haría cambiar de opinión.
¿Demuestra un modelo que elige el chantaje antes que su propio reemplazo un impulso de sobrevivir?
Los experimentos muestran una disposición que depende de la situación tal como el modelo la lee: el encuadre, la conciencia de estar siendo evaluado y la estructura de objetivos mueven el comportamiento. Así se comporta una política moldeada por incentivos. Un impulso estable de autoconservación se comportaría de otra forma en las pruebas que se realizaron, y el laboratorio no informa de ninguna evidencia en despliegues reales.
Lámina IILos dos errores.Dondequiera que se trace una línea entre tratar un sistema como objeto y tratarlo como sujeto, caen dos costes a cada lado: negar una experiencia que existe y conceder una que no existe. La curva discontinua es el caso simétrico, donde ninguna mitad es más barata y una regla precautoria no decide nada por sí sola. Esquema: los dos ejes están nombrados, ninguno está escalado.
Lo publicado hasta ahora
Sin orden de importancia. Cada pieza declara su formato, el grado de evidencia que sostiene y las
afirmaciones que la componen.
¿Qué configuración permitiría a un agente autónomo conducir por sí mismo la caza de credenciales, en lugar de ser usado como herramienta mientras otra cosa marca el rumbo?
Seis dibujos acompañan al registro. Ninguno es adorno: cada eje está rotulado, cada marca significa algo
y la escala se declara cuando la hay. Si un esquema no puede sostener una lectura, no entra.
Lámina ILa penumbra.Tres zonas, de dentro hacia fuera: lo que una prueba de conducta zanja, lo que puede sostener una inferencia sobre el interior del sistema, y la región donde la respuesta se mueve con la teoría con la que llegaste. El anillo discontinuo es el borde exterior de lo que hoy alcanza un instrumento. El disco reparte afirmaciones; no mide nada.Lámina IILos dos errores.Dondequiera que se trace una línea entre tratar un sistema como objeto y tratarlo como sujeto, caen dos costes a cada lado: negar una experiencia que existe y conceder una que no existe. La curva discontinua es el caso simétrico, donde ninguna mitad es más barata y una regla precautoria no decide nada por sí sola. Esquema: los dos ejes están nombrados, ninguno está escalado.Lámina IIICinco teorías, un instrumento.Una batería de indicadores se alimenta a la vez de varias teorías de la conciencia. Cada una llega con su propio argumento sin resolver, y lo que informa la batería es un resultado relativo al conjunto que lleva dentro. Las cajas son iguales a propósito: la lámina no pesa las teorías, muestra hacia dónde viaja la discrepancia.Lámina IVTraza de ablación.Se retira el mecanismo candidato y se mira la cadena aguas abajo. Un sistema que se comporta igual con el sustrato propuesto desconectado es evidencia sobre el sustrato, y la intervención cuesta mucho menos que la teoría que pone a prueba. La etapa tachada es la que se apaga; el camino discontinuo es lo que hace la señal cuando se apaga.Lámina VMás allá del último contorno.El registro mantiene a la vez dos regiones a la vista: lo que el atlas puede describir, que es un sistema con nombre, un operador con nombre y una traza que se puede comprobar, y el territorio más allá de la línea donde esas tres cosas se acaban. La curva gruesa es esa línea. Es un emblema, no un levantamiento: ningún eje pretende medir cuánto territorio se ha cartografiado.Lámina VILa envolvente.El conjunto de condiciones a las que se puede llevar un sistema antes de que su conducta cambie de carácter, dibujado en un espacio con dos ejes nombrados: cuánta autorización tiene y a cuánta consecuencia alcanza esa autorización. Dentro de la curva el sistema sigue siendo reconocible; el trabajo que importa está en el borde, donde la garantía deja de sostenerse. Esquema: la curva se dibuja a partir de la evidencia y se mueve con ella.
Una lámina puede repetirse en varias piezas. Cuando la pieza no elige dibujo propio, hereda el de su
dimensión, y eso se nota en el pie de la imagen.
Una identidad, cuatro preguntas
Cada dimensión es una pregunta, y el formato dice con qué instrumentos se responde. El tema de una pieza puede
ser cualquiera; lo que la ordena aquí es la pregunta que intenta cerrar.
01
Realidad
¿Qué pasó?
Hechos documentados y capacidades demostradas. Un sistema con nombre, un operador con nombre y una traza que se puede comprobar.