Por Jesús Alfaro Águila-Real

La inteligencia artificial puede acabar con la necesidad del Derecho, del mercado y del sistema de precios

A propósito de Casey, Anthony J. and Niblett, Anthony, Self-Driving Contracts (March 1, 2017)

Introducción: los contratos mecanizados

Los autores definen un contrato mecanizado (self driving contracts) como aquel en el que las partes se ponen de acuerdo en los objetivos – el resultado – que pretenden lograr con el contrato y cómo repartir la ganancia común del mismo – el excedente que el contrato genera –  y el contrato utiliza máquinas que aprenden, inteligencia artificial para

“traducir esos objetivos generales establecidos ex ante en reglas o cláusulas concretas para el momento en el que el contrato ha de ser ejecutado y el contenido de esas cláusulas se basa en información recopilada después de que las partes han celebrado el contrato”.

Por eso lo llaman “autodirigido”, por analogía con los coches autónomos. No es ciencia ficción, nos dicen los autores. Existen ya programas de ordenador que nos permiten establecer la prima del seguro simplemente introduciendo los datos del precio y del vehículo y “el conductor puede instalar un recopilador de información en su coche sobre su habilidad y hábitos de conducción y la prima del seguro se ajusta automáticamente… La esencia de esta transacción consiste en que las partes se han puesto de acuerdo respecto a cómo dividir el excedente, pero ciertos hechos sobre el conductor son desconocidos en el momento de contratar” aunque los autores parecen olvidar que esos “hechos”, en cuanto son conductas humanas, pueden variar por efecto de las propias previsiones contractuales: el conductor sabe que el precio será más alto si conduce peor, de manera que tiene incentivos para cambiar su conducta y extraer una mayor parte del excedente contractual. En las cláusulas de renovación de contratos de duración – arrendamiento, préstamo a interés fijo – las máquinas pueden determinar la nueva renta o el nuevo interés sin necesidad de acuerdo de las partes. Lo mismo respecto a si el vendedor ha cumplido entregando la mercancía pactada. Y, posiblemente, “decir” a las partes cómo tienen que comportarse en cada vicisitud que afecte a la ejecución del contrato. Por ejemplo, si el distribuidor debe vender la mercancía o esperar a que suban los precios; o el precio al que debe revender los productos suministrados por el fabricante.

La inteligencia artificial y las máquinas inteligentes pueden recopilar y analizar toda la información disponible sobre si las cláusulas generales (rebus sic stantibus, “mejores esfuerzos”, “en el interés de la sociedad”, “de acuerdo con las exigencias de la buena fe”, “de acuerdo con la lex artis” “con la diligencia de un buen padre de familia”) incluidas en un contrato han de aplicarse o no en unas circunstancias concretas. Las máquinas inteligentes – dicen los autores – proporcionarán a las partes “microdirectivas”, esto es, “reglas que tienen los beneficios de un principio – bajos costes de información y de negociación, porque no hay disputa respecto a que deben aplicarse al contrato – y los de una regla (certidumbre, seguridad, predeterminación)”. Lo que harán las máquinas inteligentes es traducir los objetivos de las partes en reglas de conducta completamente especificadas.  En esencia, una “microdirectiva” es una concreción de una cláusula general – que es lo que las partes incluyen en el contrato – concreción que, gracias a la inteligencia artificial, tendría lugar cuando se hubiera producido el supuesto de hecho en el que hay que decidir si se aplica o no (si alguna de las partes tiene un deber de actuar o no en un determinado sentido; si se ha producido un cambio imprevisible de las circunstancias; si se ha desplegado la diligencia de un buen padre de familia…). Y tal decisión puede tomarla la máquina gracias a la información sobre esas situaciones recopilada y analizada mediante inteligencia artificial. Es, pues, una forma de analizar los precedentes en la aplicación de ese estándar o cláusula general. Con la ventaja de que todo está predeterminado “por cada estado hipotético del mundo, las partes pueden preguntar a la máquina qué instrucción resultaría” y con independencia de los resultados en términos de redistribución del excedente contractual entre las partes.

Los autores analizan las consecuencias para el Derecho de los Contratos que tal evolución de la inteligencia artificial provocaría y examinan, por ejemplo, sus efectos sobre las distintas doctrinas del derecho de los contratos (la renegociación, la interpretación, la integración, los vicios del consentimiento, la imposibilidad, el incumplimiento…) para terminar explicando el eventual régimen jurídico al que estarían sometidos los proveedores de esta mecanización contractual. El análisis, sin embargo, nos parece insuficiente desde el punto de vista teórico. Como expondremos a continuación, su planteamiento, llevado hasta sus últimas consecuencias, a lo que lleva es al mundo coasiano (o mejor dicho, al ideal en el que Coase nunca creyó que tuviera que ver con la realidad) en el que se han eliminado los costes de transacción. Aún más. En el mundo de la inteligencia artificial aplicada sistemática y generalizadamente a la producción de bienes y servicios, desaparecen las transacciones gobernadas por los precios de mercado. Sencillamente porque, como veremos inmediatamente, si los precios de mercado no son mas que un mecanismo para recopilar la información dispersa en una Sociedad, la inteligencia artificial puede sustituir ventajosamente a las decisiones individuales.

Pero ¿qué sucede si llevamos hasta sus últimas consecuencias la mecanización de los contratos? Las mesas de oficina

Un caso que ofrecen los autores explica bien de qué estamos hablando:

Imagine que un fabricante y un vendedor de muebles firman un contrato para la producción de mesas de oficina. El proveedor puede revender a los clientes finales las mesas de oficina por $ 1,000 cada uno. El fabricante puede producir mesas de oficina por $ 500 cada uno. Se celebra un contrato en el que las partes dividen el excedente por mitad. Inicialmente se especifica un precio de $ 750.

Es decir, las partes acuerdan un precio de reventa de las mesas que cubre los gastos de producción, permite a las partes obtener un beneficio y reparten el beneficio por mitad.

 Imaginemos que sucede, sin embargo, que, sin culpa del fabricante, el coste de producción aumenta notablemente. Por ejemplo, porque los costes laborales han aumentado inesperadamente o el gran bosque que proporcionaba la materia prima ha quedado destruido por un incendio. El coste de fabricación de cada mesa de oficina es ahora de $ 800.

En este escenario, si los términos del contrato no se adaptan, el fabricante incumplirá (efficient breach of contract). Porque hay una pérdida de bienestar social total en fabricar a coste de 800 algo por lo que sólo obtendrá 750. El fabricante mirará en el contrato para ver qué consecuencias se siguen – indemnización de daños, pretensión de cumplimiento – para él si incumple y no entrega las mesas de oficina prometidas; o puede buscar otro fabricante cuyos costes de producción no hayan aumentado y encargarle la producción a él. O puede renegociar el contrato con el vendedor. Si el contrato ha sido elaborado utilizando inteligencia artificial, sin embargo, la renegociación puede incorporarse automáticamente al contrato. Si la máquina es capaz de obtener la información para comprobar si las partes se comportan oportunistamente o no en la renegociación, puede, a continuación, simular la renegociación que partes no oportunistas habrían llevado a cabo y ejecutarla por sí misma. Dicen los autores que

El contrato mecanizado observa el aumento de los costes, actualiza e incrementa el precio de las mesas de oficina a $ 900 para preservar la división del excedente.

(el coste ha aumentado a 800, el precio de venta al público sigue siendo 1000, el excedente es de 200 que se reparte por partes iguales entre fabricante y vendedor)

 No hay necesidad de renegociación para generar un excedente que maximice el resultado. Si los costes de producción, sin embargo, aumentan a más de $ 1,000, el contrato mecanizado dirá a las partes que no fabriquen las mesas de despacho porque cumplir el contrato es ineficiente en ese estado del mundo.

Lo que antes se denominaba “rendimiento” (es decir, entregar mesas de oficina) es ineficiente en este estado del mundo. Pero los términos del contrato se han adaptado. El fabricante se conforma con los términos del contrato mecanizado y no produce ni entrega las mesas. En lugar de eso, el fabricante paga un precio no relacionado con la producción pero que no deja al vendedor en peor situación. Para que exista un incumplimiento eficiente del contrato, habría de existir un error en el programa informático si el contrato no se actualiza para tener en cuenta el estado del mundo en el que el coste de producción supera los $ 1000, o una situación en la que una parte no tuviera la liquidez necesaria para pagar la indemnización prevista en el contrato

Pero no vemos por qué no podemos avanzar en el razonamiento. A través de sensores (“el internet de las cosas”) las máquinas pueden vigilar el cumplimiento de las obligaciones asumidas por el fabricante, es decir, si está empleando los materiales prometidos, por ejemplo, para fabricar las mesas y puede corregir su actuación sobre la marcha. Y serán máquinas – robots – los que fabriquen las mesas de oficina. Y serán máquinas inteligentes las que digan a los proveedores del fabricante dónde, cuándo y con qué características tienen que poner a disposición de éste las materias primas necesarias y al operador logístico que utilice el fabricante, dónde y cómo debe recoger las mesas y transportarlas hasta los compradores finales de dichas mesas.

El gobierno de la Economía: sistemas sociales y sistemas mecánicos

En definitiva, de lo que se trata es de dos sistemas distintos de organizar la producción de bienes y su intercambio en los mercados. El que ha utilizado la Humanidad desde el Neolítico hasta ahora es el del recurso a instrumentos sociales para maximizar la producción (lo que requiere minimizar los costes de producir en común y minimizar los costes de intercambiar lo producido). Estos mecanismos sociales incluyen la coacción, la moralidad, el Derecho, los lazos familiares y relaciones genéticas, la reputación, y, singularmente, el sistema de precios de mercado. La aplicación de la inteligencia artificial supone sustituirlos por instrumentos mecánicos.

Pues bien, en la medida en que el intercambio o la producción en común se mecanizan, los instrumentos no mecánicos, esto es, los instrumentos sociales como el Derecho que sirven a reducir los costes de cooperar e interactuar, devienen menos necesarios como se aprecia bien en el caso de la renegociación. Si la máquina “sabe” si es verdad que han subido los costes de producción; que han subido en esa proporción; a qué se debe la subida de tales costes y cómo se ha comportado el fabricante, la máquina puede “renegociar” el contrato tal como las partes habrían querido renegociarlo o, más aún, tal como las partes lo habrían modificado si, en vez de ser dos partes, dos individuos que celebran un contrato, hubieran sido un solo individuo que produce y vende mesas de oficina y que dispusiera de toda la información para adoptar, en cada paso del proceso productivo, la decisión eficiente, esto es, la que maximiza los beneficios de fabricar y vender las mesas de oficina (estamos hablando de empresas, o sea, de unidades de producción).

Este planteamiento nos indica, una vez más, que nihil novum sub sole. Del mismo modo que Bebchuk trataba de resolver los problemas concursales o societarios imaginando que una sola persona acumulaba todos los créditos contra el deudor quebrado o que todas las acciones de una sociedad pertenecen a una misma persona y preguntándose, en tal caso, qué decisiones tomaría el acreedor único o el socio único (las que maximizan el valor del patrimonio del deudor o el patrimonio social), un contrato mecanizado convertiría a las dos partes del contrato en una sola que adoptaría las decisiones de producción y entrega que maximicen la ganancia que se espera obtener con dicha producción y venta de las mesas de oficina.

Pero, en el extremo, toda la producción de todos los bienes y servicios se realizaría por una sola empresa, como si todas las decisiones que hay que tomar para producir los bienes y servicios que satisfacen las necesidades humanas las tomara una instancia centralizada. Recuérdese la discusión acerca de la mayor eficiencia del capitalismo respecto del socialismo y la explicación de Hayek acerca de que el problema del socialismo era el problema de la falta de capacidad de la instancia central (planificación) para obtener, procesar y aplicar toda la información disponible que se encuentra dispersa entre los individuos de una Sociedad.

¿Y el reparto del excedente contractual?

A primera vista, parece que lo que un contrato mecanizado no resuelve es, naturalmente, el reparto de la ganancia derivada de la transacción económica. Los precios de mercado son los que llevan a cabo ese reparto. Nos referimos, en el ejemplo, al precio al que el fabricante vende las mesas al vendedor y el precio al que éste las revende a los compradores finales de las mesas (recuérdese, los precios respectivos son 750 y 1000 respectivamente. 1000 $ es el precio de venta a los consumidores y los costes de producción 500 $).

Los autores suponen que esas ganancias se reparten por mitad ya que dicen que 750 $ es el precio que reparte a partes iguales el beneficio. Pero no hay ninguna razón para pensar que el reparto por igual de la ganancia sea el eficiente. Si el fabricante contribuye más a la generación de las ganancias que el vendedor, (porque es fácil encontrar compradores finales), querrá retener una porción mayor de las ganancias. Y si es al contrario (porque haya muchos fabricantes disponibles), el vendedor querrá retener una porción mayor de las ganancias. La atribución desigual inducirá a otros vendedores o fabricantes a entrar en el mercado.

Pero si suponemos que las máquinas inteligentes conocen perfectamente todo y saben de la escasez de fabricantes o de vendedores, el precio del contrato se adaptará y el reparto de la ganancia no será al 50 %. Será cualquier precio superior al coste de producción e inferior al que pagarán los consumidores finales más próximo al primero cuanto menos “escasos” sean los fabricantes y más próximo al segundo cuanto más escasos sean los fabricantes.

Pero, si se observa bien, el problema de fijar el precio que reparta la ganancia común del contrato entre las partes no es distinto de los problemas de distribución de riesgos, tareas, o costes entre las partes.

De nuevo, si sustituimos a las partes por una máquina inteligente que determine el precio “justo” o “eficiente”, el contrato mecanizado habrá sustituido completamente al Derecho contractual.

Pero, razonando lógicamente, en tal caso, lo que deberíamos aceptar es que hemos eliminado la existencia de dos partes en el contrato, ya no necesitamos de contratos, ni, por tanto del Derecho de contratos, para articular los intercambios. La transacción no se llevará a cabo como una transacción de mercado entre fabricante y vendedor sino como un proceso de producción realizado en el seno de la empresa, es decir, nos enfrentaríamos al viejo problema de Coase sobre cuándo producir en el interior de una empresa y cuándo recurrir al mercado. Y la solución de Coase sigue siendo válida: si los precios de mercado son buenos (reflejan con precisión la aportación marginal de cada uno de los que intervienen al excedente que se genera con toda la producción), se recurrirá al mercado. Si los precios no son buenos, se recurrirá a la producción en el seno de la empresa. Lo que las máquinas inteligentes hacen es hacer irrelevante la distinción porque todas las decisiones al respecto se adoptan como si no existieran costes de transacción hasta el punto de eliminar la existencia de transacciones. Estaríamos en el mundo imaginado en su disputa por Posner y Dworkin en el que hay un “dios” omnipotente que dice a cada uno lo que tiene que hacer y lo que no tiene que hacer y que asigna los recursos a los que los valoran más. Es decir, lo que colapsa es la distinción entre transacciones de mercado y producción en común por un grupo de personas. Ni hay partes que intercambian nada ni hay grupos de personas que producen en común. Hay una instancia central – la máquina – que toma inteligentemente y con información perfecta las decisiones que maximizan la producción y el bienestar.

La conclusión: tampoco necesitaremos el sistema de precios

Los contratos mecanizados no son mas que un instrumento – la inteligencia artificial, las máquinas aprendices, el internet de las cosas, la huella digital – que permite reducir los costes de transacción hasta hacerlos desaparecer. En el extremo, lo que desaparecen son las transacciones. La máquina será la que tome las decisiones de asignación de los recursos que ahora toman los individuos. Es el mundo coasiano en el que no hay costes de transacción. O, quizá mejor, es el mundo en el que los sistemas sociales que dirigen la producción y el intercambio de bienes y servicios (que los hacen posibles) son sustituidos por máquinas, por sistemas mecánicos.

En ese mundo, la inteligencia artificial habría sustituido también al mecanismo de precios para averiguar las preferencias y la utilidad que la gente extrae de las cosas. Del mismo modo que las máquinas inteligentes pueden adivinar qué queremos, en qué cantidad y con qué características de los “bienes” que adquirimos en el mercado o producimos en común en la actualidad, las máquinas podrán adoptar las decisiones eficientes para producir esos bienes, es decir, no necesitaremos de los precios para indicar a cada productor lo que tiene que producir y cuándo dejar de hacerlo (porque sus costes de producción superen el precio de mercado).

En otra ocasión hemos dicho que existe el riesgo es que los precios de mercado reflejen, cada vez menos, las preferencias individuales porque los individuos no contribuyan a formarlos. Lo propio puede ocurrir con las cláusulas contractuales. Esto es un problema menor en relación con las cláusulas accesorias de un contrato, donde la innovación no tiene un gran valor pero puede tener más importancia en relación con precios y prestaciones, es decir, en relación con las preferencias de los individuos respecto de lo que ha de ser producido. Ahora bien, este riesgo puede despreciarse si las máquinas inteligentes sustituyen a los precios de mercado como mecanismo de acumulación y procesamiento de la información sobre las preferencias de los individuos (Hayek). No será nuestra disposición a pagar (willigness to pay) reflejada en los precios efectivamente pactados en las transacciones de mercado la que nos permita averiguar las preferencias de la gente, sino la información que, sobre estas preferencias, queda reflejada – huella digital – en nuestra actuación como seres humanos, información que será procesada inteligentemente por las máquinas.

De modo que los autores se quedan cortos. No es que vayamos a asistir a una alteración profunda del Derecho de Contratos. Es que vamos a asistir a la sustitución del Derecho por la inteligencia artificial en su función de “gestionar” la cooperación entre los seres humanos


Dibujo de Ocre @lecheconhiel