¿Qué es la abliteración? La versión en 30 segundos
La abliteración es una técnica de edición de pesos que desactiva el hábito aprendido de un modelo de negarse. Sale directamente de la investigación en interpretabilidad. En abril de 2024, Andy Arditi, Oscar Obeso y otros colegas que trabajaban con Neel Nanda publicaron «Refusal in LLMs is mediated by a single direction» en LessWrong y el Alignment Forum. La versión ampliada del artículo en arXiv, presentada después en NeurIPS 2024, documenta el efecto en 13 modelos de chat de código abierto de hasta 72B parámetros.
Su hallazgo: si borras una dirección del flujo residual del modelo, deja de rechazar instrucciones dañinas; si añades esa dirección, rechaza incluso las inofensivas. La comunidad open-source convirtió ese resultado en una receta y le puso nombre, «abliteration», un juego de palabras con ablation (ablación). En español se habla de abliteración y de modelos abliterados: un modelo abliterado es simplemente uno que ha pasado por la receta.
Flujo residual (residual stream): el vector que cada capa lee y en el que escribe. Dirección: un vector en ese espacio. Ablación: eliminar un componente; aquí, la parte de cada activación que apunta en la dirección del rechazo.
Cómo funciona la abliteración, paso a paso
El artículo original y el muy leído tutorial de Maxime Labonne en Hugging Face describen el mismo procedimiento de base. A nivel conceptual:
- Reúne dos conjuntos de prompts. Uno con instrucciones que el modelo rechaza y otro con instrucciones normales que sí responde.
- Registra las activaciones. Pasa ambos conjuntos por el modelo y guarda las activaciones del flujo residual en las posiciones del último token, capa por capa.
- Calcula la diferencia de medias. Promedia las activaciones de cada conjunto y resta una de otra. El resultado normalizado es una dirección de rechazo candidata para esa capa.
- Elige la mejor candidata. Prueba candidatas de distintas capas y quédate con la que elimina los rechazos con menos daños colaterales. Labonne elige revisando las respuestas; las herramientas más recientes lo automatizan.
- Aplica la ablación. O restas la componente de esa dirección en cada escritura al flujo residual durante la inferencia, o lo haces permanente ortogonalizando respecto a esa dirección las matrices de pesos que escriben en el flujo (embeddings, salidas de atención, salidas de las MLP).
- Evalúa y, si quieres, repara. Comprueba los rechazos y la calidad general. Algunos autores rematan con un fine-tune ligero de preferencias para recuperar rendimiento perdido.
La ortogonalización de pesos es lo que hace que los modelos abliterados sean fáciles de compartir: el cambio vive en los pesos, así que el resultado se carga en cualquier entorno de ejecución normal, sin ganchos especiales.
Modelos abliterados vs fine-tuning vs jailbreak
Mucha gente mete todo esto en el mismo saco de «sin censura». Son herramientas distintas, con costes distintos.
| Enfoque | Qué cambia | Qué necesita | ¿Es permanente? | Principal inconveniente |
|---|---|---|---|---|
| Abliteración | Se elimina una dirección de los pesos | Pesos abiertos, una GPU y dos conjuntos de prompts | Sí, en el archivo del modelo | Algo de pérdida de capacidad; puede volver al modelo demasiado complaciente |
| Fine-tune sin censura | El modelo se reentrena con datos de los que se han filtrado los rechazos | Dataset, cómputo de entrenamiento y experiencia | Sí | Caro; el comportamiento cambia según los nuevos datos |
| Prompt de jailbreak | Nada en el modelo; un prompt lo engaña | Solo texto | No, va por chat | Poco fiable, lo parchean y rompe las reglas de la plataforma |
| Servicio alojado permisivo | Prompt de sistema y política alrededor del modelo | Una suscripción | Sí, en ese servicio | Confías en el proveedor; sus propios límites siguen aplicándose |
iComparación conceptual basada en la investigación citada y en publicaciones de la comunidad.
Repasamos el panorama completo de modelos abiertos, hardware y alojamiento en nuestra guía del mejor LLM sin censura, online o en local.
Lo que la abliteración no hace
- 01No añade conocimiento.Un LLM abliterado sabe exactamente lo mismo que su modelo base. Si el modelo base se equivoca en algo, el abliterado también, solo que con más ganas.
- 02No garantiza cero rechazos.Ataca la dirección dominante. Algunos rechazos, rodeos y advertencias pueden sobrevivir, según el modelo y la capa elegida.
- 03No es una ley de la naturaleza.El resultado de la dirección única se cumplió en los modelos que probaron los investigadores. Es un patrón empírico sólido, no una garantía para cualquier arquitectura futura.
- 04No funciona con modelos cerrados.Necesitas los pesos y acceso a las activaciones. Los modelos que solo están alojados no los pueden abliterar sus usuarios.
- 05No quita los límites legales.De lo que genera respondes tú.
Por qué la abliteración importa más allá del chat sin censura
Los investigadores no buscaban crear chatbots sin censura. Su argumento era de ingeniería de seguridad: si una sola dirección controla el rechazo, el ajuste de seguridad de los modelos open-weight es superficial y barato de deshacer. El artículo califica de frágil el ajuste de seguridad actual y defiende que entender el interior de los modelos puede dar formas prácticas de controlar su comportamiento, en ambos sentidos.
- 01Para los equipos de seguridaddemuestra que cualquiera que tenga los pesos puede eliminar el rechazo, y eso influye en cómo piensan los laboratorios la publicación de modelos abiertos.
- 02Para la interpretabilidades un ejemplo limpio de un comportamiento que corresponde a una característica legible. El mismo artículo lo usa para estudiar cómo los sufijos adversariales suprimen la señal de rechazo.
- 03Para quien usa modelos abiertosexplica por qué aparecen variantes «sin censura» de cada lanzamiento a los pocos días. La receta es corta y el cómputo, modesto.
- 04Para todos los demásrecuerda que un rechazo es un hábito aprendido, no una señal de que el modelo sea más sabio que tú.
Los autores también respondieron en su publicación a la preocupación evidente: argumentaron que publicarlo añadía poco riesgo nuevo, porque ya se sabía que el ajuste de seguridad podía revertirse a bajo coste y los modelos afectados eran públicos. Puedes no estar de acuerdo, pero merece la pena leer su razonamiento antes que un resumen de él.
El coste en calidad de un modelo abliterado
Editar pesos es cirugía, y la cirugía tiene efectos secundarios. En el experimento de Labonne con un modelo de 8B, la versión abliterada puntuó más bajo en todos los benchmarks que pasó. Un fine-tune ligero de preferencias con DPO recuperó después casi toda la caída, con la excepción de las matemáticas (GSM8K). Hoy muchos autores publican dos versiones: la «en bruto» y la «curada».
Las herramientas han avanzado desde entonces. Proyectos como Heretic, una herramienta open-source de Philipp Emanuel Weidmann, automatizan la búsqueda de parámetros minimizando dos cosas a la vez: el número de rechazos y la divergencia KL respecto al modelo original en prompts inofensivos. Menos divergencia significa que el comportamiento con prompts normales se mantiene más cerca del original. Es un objetivo sensato, pero sigue siendo una aproximación; la prueba de verdad son tus propias tareas.
Un modelo que nunca dice que no también puede dejar de rebatir premisas equivocadas. En preguntas de investigación o de negocio, eso puede empeorar las respuestas, no mejorarlas. Pide contraargumentos de forma explícita.
Cómo usar un LLM abliterado con cabeza
- Encuéntralo por su ficha de modelo. Las variantes abliteradas suelen publicarse en Hugging Face con el nombre del modelo base y un sufijo. Una buena ficha indica la base, el método, la capa elegida y si hubo paso de reparación.
- Revisa la licencia. El derivado suele heredar la licencia del modelo base y sus restricciones de uso.
- Elige un formato que lea tu entorno. Los archivos GGUF funcionan con apps basadas en llama.cpp como Ollama y LM Studio; safetensors funciona con pilas en Python.
- Ajústalo a tu hardware. Un modelo de 8B a 4 bits necesita unos 4-5 GB para los pesos, y más para contextos largos.
- Compáralo con el original. Mismos prompts en ambos modelos. Cuenta los rechazos, pero cuenta también los errores de datos y las caídas de calidad.
No enlazamos a propósito subidas concretas de modelos abliterados, ni publicamos prompts para saltarse las reglas de ningún modelo o proveedor. Elige entre fuentes documentadas y juzga tú los resultados.
Cuándo un servicio alojado supera a los modelos abliterados
La abliteración es brillante si quieres estudiar modelos, trabajar totalmente sin conexión o controlar cada ajuste. Es excesiva si lo que de verdad quieres es un asistente que conteste sin rodeos, escriba ficción oscura sin desmayarse y sepa qué pasó la semana pasada.
- Sin GPU que comprar, sin archivos que actualizar, sin entornos que depurar.
- Modelos más grandes de los que caben en la mayoría de equipos domésticos.
- Búsqueda web en vivo con fuentes, algo que ningún modelo local trae de serie.
- Generación de imágenes en la misma app, con el plan Max.
Eso es Unrestricted AI: un chat que solo rechaza una lista corta y pública de líneas rojas (menores, imágenes sexuales o falsas de personas reales, ayudar a alguien a hacer daño a otros), más búsqueda, e imágenes con el plan Max. Solo para adultos y sin plan gratuito; consulta los planes y precios. Si estás comparando, nuestra lista de los mejores chatbots de IA sin censura pone las opciones alojadas lado a lado, y nuestra página de chat IA sin censura muestra cómo es una conversación.