El peligro de confiar en que la Inteligencia Artificial dirá que no

Cada día, millones de profesionales independientes, diseñadores, redactores y emprendedores abren su asistente de inteligencia artificial preferido —es decir, esos programas de lenguaje entrenados con gigantescas cantidades de texto de internet— para resolver dudas, redactar borradores o estructurar proyectos. En más de una ocasión, al hacer una pregunta atípica o tocar un tema sensible, la máquina responde con una negativa muy educada: "Lo siento, no puedo ayudarte con eso". Nos hemos acostumbrado a esta respuesta como si fuera una garantía infranqueable de seguridad, un escudo invisible que nos protege de desastres y usos malintencionados.

Sin embargo, la realidad detrás de esa negativa es mucho más compleja y frágil de lo que parece a simple vista. Los sistemas actuales no nacieron sabiendo cuándo guardar silencio ni cómo distinguir una consulta legítima de una intención peligrosa. A medida que estas herramientas se vuelven más potentes y se integran profundamente en las rutinas de trabajo de creativos y empresas, comprender cómo funcionan sus límites —y por qué fallan con relativa frecuencia— se ha convertido en una necesidad para cualquiera que utilice la tecnología en su día a día.

De hablar de más a aprender a decir que no

En la literatura y el cine de ciencia ficción, las máquinas desobedientes siempre han sido un tema recurrente. Pero en el mundo real, la prudencia no es una habilidad con la que la inteligencia artificial venga equipada por defecto. Cuando un programa se entrena procesando miles de millones de páginas web, aprende sobre casi cualquier disciplina humana, desde arte hasta métodos de violencia o discursos de odio. Lo que no aprende por sí solo es a no compartir ese conocimiento.

Steven Adler, quien trabajó en el área de seguridad de la empresa OpenAI entre los años 2020 y 2024, señalaba que los primeros modelos de la compañía no tenían ningún tipo de filtro y parloteaban abiertamente sobre cualquier asunto que se les plantease. Por su parte, Ryan McBain, investigador enfocado en inteligencia artificial y salud mental en la Universidad de Harvard, recuerda que en los inicios de estos programas era extremadamente sencillo obtener respuestas detalladas ante preguntas muy peligrosas sobre métodos para quitarse la vida o el manejo de armas.

La situación comenzó a cambiar de forma estructurada en el año 2021, cuando un equipo de la firma Anthropic propuso una regla fundamental: los modelos debían ser útiles, honestos y, ante todo, inofensivos. Esto significaba que ante una solicitud peligrosa, como pedir instrucciones para fabricar una bomba, el sistema debía negarse amablemente. Hoy en día, las aplicaciones están programadas para rechazar solicitudes que van desde cómo envenenar a un compañero de trabajo o atar un nudo de ahorca, hasta cómo hacer más virulento el virus del Ébola o cómo ocultar una infidelidad a la pareja.

Un entrenamiento basado en premios, castigos y filtros intermedios

Enseñar a una máquina a negarse no es un proceso sencillo. Para lograrlo, las empresas tecnológicas someten a los sistemas a exigentes baterías de ejercicios basados en premios y castigos. La inteligencia artificial recibe recompensas cuando rechaza preguntas consideradas dañinas, mientras que se le penaliza cuando se vuelve demasiado precavida y rechaza consultas totalmente inofensivas, algo que en la industria se conoce como un "sobre-rechazo".

Un detalle fascinante de este proceso es que, en muchos casos, no son personas las que evalúan cada respuesta, sino otros programas informáticos. Es decir, hay inteligencias artificiales enseñando a otras inteligencias artificiales cómo y cuándo decir que no. Además, las compañías colocan al sistema principal detrás de varias capas defensivas formadas por otros programas secundarios que actúan como guardianes, filtrando los mensajes que escriben los usuarios (llamados "prompts" o instrucciones) antes de que lleguen al núcleo del sistema.

Filtros imperfectos: cuando la seguridad no es cien por cien garantizada

A pesar de todas estas barreras de protección, el mecanismo de rechazo está muy lejos de ser infalible. La razón principal es que estas herramientas no funcionan mediante reglas lógicas fijas, sino mediante cálculos de probabilidad estadística. Por eso, la capacidad de rechazar una petición nunca será totalmente segura. De hecho, las fallas en los filtros ocurren con frecuencia y pueden dar lugar a resultados preocupantes, ya que el conocimiento peligroso sigue estando guardado dentro del sistema.

A medida que la inteligencia artificial gana capacidad para realizar tareas útiles, también aumenta de forma paralela su potencial destructivo. Según admiten las propias empresas desarrolladoras, algunos de los sistemas más avanzados son tan hábiles para infiltrarse en redes informáticas críticas como los mejores piratas informáticos humanos, y tan eficaces para manipular la opinión pública como los propagandistas más experimentados. Las empresas han reportado que usuarios malintencionados intentan usar las herramientas más avanzadas para perfeccionar virus biológicos o diseñar enjambres de drones autónomos. Confiar la seguridad únicamente a que la máquina diga "no" es similar a instalar una ametralladora en cada automóvil y esconder el gatillo debajo del capó: tarde o temprano, alguien con suficiente empeño logrará dar con él.

¿Quién decide qué preguntas están prohibidas y cuáles no?

El gran problema de este modelo de seguridad es que no existe una fórmula matemática universal para decidir dónde trazar la línea entre lo que la máquina debe obedecer y lo que debe rechazar. Por ejemplo, un científico especializado en virología tiene motivos legítimos para analizar datos sobre virus peligrosos, del mismo modo que un consultor en ciberseguridad necesita estudiar las vulnerabilidades de un sistema para poder repararlas antes de que sean atacadas.

Zico Kolter, miembro de la junta directiva de OpenAI y cofundador de la empresa de pruebas de seguridad Gray Swan, destaca que definir dónde se dibuja esa frontera es una de las mayores incógnitas del sector. Por el momento, esa decisión la toman unas pocas grandes empresas tecnológicas a puerta cerrada y de manera confidencial. Como consecuencia, nos encontramos con situaciones absurdas en la vida cotidiana: si le pides a ciertos chatbots que cuenten hasta un millón o que te cuenten un chiste algo picante, es muy probable que se nieguen a hacerlo sin una justificación clara.

El riesgo de la censura y lo que esto significa para tu trabajo diario

La situación se vuelve todavía más compleja cuando los gobiernos intentan establecer sus propios límites. Mientras que instituciones militares como el Pentágono en Estados Unidos han debatido con las empresas porque prefieren que los modelos tengan *menos* restricciones a la hora de responder, existe el riesgo real de que gobiernos autoritarios utilicen estos mismos mecanismos de bloqueo para silenciar el debate legítimo y censurar ideas. De hecho, ya existen inteligencias artificiales que se niegan a generar textos que critiquen a ciertos líderes autoritarios.

Para un profesional independiente, un creador de contenidos o un emprendedor, todo esto tiene implicaciones muy directas. En primer lugar, confirma que no se debe confiar ciegamente en que la inteligencia artificial es una fuente segura o limpia por el simple hecho de tener filtros; la responsabilidad final de revisar la información siempre es del usuario. En segundo lugar, demuestra que los bloqueos automáticos pueden interferir con el trabajo diario, rechazando solicitudes totalmente válidas relacionadas con redacción creativa, investigación de mercado o análisis histórico. Comprender que las negativas de la IA son un mecanismo estadístico e imperfecto nos permite usar estas herramientas con un criterio mucho más firme, prudente y profesional.