*Si no te interesa leer teoría sobre el tema, comienza a leer desde donde indica la flecha (→)
Un agradecimiento a Diana Rojas y a Ricardo M. Martínez, por sus consejos y orientación.
Un agradecimiento, también, a Luis Rivera, por su colaboración.
Guillermo Portillo Echaniz*
Previamente, en el borrador de un artículo que escribí para una revista jurídica, hice una somera mención de consideraciones especiales sobre las máquinas y programas de computación, con respecto a su capacidad de producir Creaciones Intelectuales Artificiales**, en el régimen de los Derechos de Autor.
Reconociendo que este tema se distanciaba del objeto del problema, lo deje a un lado. Hasta hace poco, se me ocurrió trasladar el desarrollo de la cuestión a este blog, de una manera mucho más amplia y fundamentada, pues es por este medio, en donde me puedo dar la libertad de escribir sobre asuntos aún no desarrollados, pero fascinantes.
Quizás el punto vertebral a discutir, es alcanzar o al menos aproximarse, a un concepto jurídico de Creación Intelectual Artificial. Para lograr direccionarnos a su teoría, necesitamos saber a qué le vamos a llamar Inteligencia Artificial y como podrá ser capaz de producir creaciones creativas.
Este tema es de una enorme complejidad y, en este contexto, controversial, por lo que en el formato de este pequeño artículo, no es posible abordarlo con lujo de detalle, además, que de hacerlo sería contraproducente para el fin del mismo.
Quizás unas de las principales dificultades, para lograr un concepto unificado de Inteligencia Artificial, es entender primero a que nos podemos referir con inteligencia en general. Este concepto, dependiendo de la perspectiva que se utilice, tiende a rozar más lo filosófico que lo propiamente científico, por ser ambiguo y abstracto [1].
Se le llama inteligencia natural [2], a la que es propia de los seres vivos, específicamente los que abarcan el reino animal, por lo que, de igual forma, incluye la inteligencia humana. De esta se desprende una serie de teorías multidisciplinarias que tratan de definir su sustancia y comportamiento.
La Psicología por su parte, refiriéndose a la inteligencia humana, ha hecho esfuerzos para elaborar variedad de teorías al respecto [1], de las cuales, la que ha tenido más desarrollo en los últimos años es la Teoría de las Inteligencias Múltiples [3] desarrollada por Howard Gardner (1943- ), la cual desafío, en su momento, las formas tradicionales de ver la inteligencia.
La inteligencia según Gardner, deja de ser algo puramente innato y para cada sujeto, en su desarrollo, se irán manifestando distintas competencias intelectuales, según los factores [1][3] culturares y sociales que trascienden al individuo. Por lo que se puede clasificar la inteligencias en habilidades diferenciables.
Por su parte la teoría de la mente de la cognición, se diversifica en dos posturas básicas, que aunque no son exclusivas de la materia, se utilizan para designar su vertientes filosóficas [4]:
1) Monismo: La mente y el cerebro, son la misma materia o no son diferenciables, pertenecen a una sola realidad, independientemente que en ella predomine el cerebro o la mente. Si se trata de lo primero se denominará Materialismo y de lo segundo Idealismo [5].
2) Dualismo: La mente es algo inmaterial y diferente al cerebro. Si interactúan entre si se llama Interaccionismo, si sus funciones son coordinadas de manera precisa pero independientes una de la otra, se llama Paralelismo, si interactúan de manera eventual, se le llama Ocasionalismo y si la mente depende del cerebro como fenómeno incidental, se le llama Epifenomenalismo [5].
Ambas posturas fallan en algo, con respecto a la inteligencia, el monismo deja a un lado puntos clave: que son la creatividad y la resolución de problemas (razonamiento) [5], limitándose a la idea de que la inteligencia es producto de una excitación mecánica.
La segunda, no es capaz de explicar las interacciones entre la mente y el cuerpo [5], escapándole los procesos más básicos, como podrían ser por ejemplo, los reflejos involuntarios, que también son importantes para la toma de decisiones.
Existen además, las llamadas posturas intermedias, de las cuales la más significativa para nuestro tema es la tesis del funcionalismo [4], implica que los procesos mentales no son solo internos, sino que son causado a través de impulsos externos e interiorizados mediante respuestas equivalentes.
La inteligencia para esta teoría, es un estado de la mente y no es un proceso monopólico del cerebro, de este último, es simplemente su base. Dado este juego de relaciones, se podría decir que la inteligencia o inteligencias, están relacionados materialmente con el cerebro, pero no son exclusivas del mismo [4].
Existe funcionalismo de primer orden, que tiene mucha relación con el materialismo, en cuanto a que se fundamenta únicamente en la realidad material y química del cerebro. Por otro lado, tenemos el de segundo orden que se basa en varios estados mentales, que no se relacionan a una sola realidad material. El funcionalismo de segundo grado, se le han atribuido críticas muy similares al dualismo y al conductismo [4], con sus respectivas adaptaciones.
No obstante, y a pesar de sus críticas, se tiene a al funcionalismo como la que más elementos ha aportado a la I.A., por su interpretación analógica de la relación “hardware-software” [4] con la que teoriza la construcción de una inteligencia a partir de la potencia del hardware y de las manipulaciones de los usuarios sobre software, dando como resultado a un inteligencia computacional con potencialidad en el aprendizaje e influencia del mundo exterior.
Como lo exprese anteriormente y sin perjuicio de otras teorías y posturas que no he mencionado, tratare de construir un concepto de inteligencia, en base a lo antes expuesto: Entenderemos como inteligencia, en un sentido extendido y general [2], como la capacidad de resolver problemas, a partir de un conocimiento previo o factores de la realidad condicionantes [3], por medio de procesos mentales [4].
Puelles [2] establece, además, que la inteligencia, dota a acciones humanas como actos inteligentes, cuando dichos actos están cargados además de los que ya hemos mencionado, de una motivación previa, la cual es el motor principal del acto inteligente en sí.
El concepto de Inteligencia Artificial fue adoptado por primera vez por John McCarthy (1927 -2011) y acuñado formalmente durante la conferencia de Darthmounth [6], no obstante, años antes que se dilucidara y se acuñara este concepto, ya se estaban haciendo experimentos sobre autómatas con los que se promovió la idea de que algunos programas podían comportarse u organizarse como lo hacen los seres humanos.
Podríamos decir que por un lado la Inteligencia Artificial es una Rama de las Ciencias que estudia la aplicación de la inteligencia en artefactos o sistemas artificiales, capaces de llevar tareas que requieren algún tipo de razonamiento, análogos a los que los hacen los seres humanos. Por otro lado, se entiende como I.A. a la capacidad de una computadora o máquina, de lograr las acciones antes nombradas [7].
De la forma como lo propone Russell y Norvig [6], sobre la Inteligencia Artificial moderna: Es el estudio sobre acciones racionales procesadas por un agente inteligente, el cual puede ser cualquier objeto que puede percibir eventos a través de sensores y proveer una acción racional desde efectores.
El agente inteligente, en un sentido técnico, funciona por un conjunto de sistema que inicia su funciones desde un sistema sensorial para “conocer” las cosas y eventos que suceden a su alrededor, con esta información, la analiza a través de un sistema motor, el cual procesa y traduce lo que era primeramente sensorial, pudiendo realizar una acción determinada, por medio de un sistema efector [4] [8].
El agente, es una agente ideal racional, cuando es capaz de maximizar su probabilidad de éxito de producir una acción inteligente, mediante la capacidad de adquirir información, procurando un mapa de conocimiento que sea capaz de indicarle adonde “está ubicada” la nueva información adquirida [6].
Haugeland [5] introduce el concepto de Sistemas Formales Automáticos Interpretados. Son sistemas formales, los que manipulan elementos que están establecidos previamente por normas, mediante distintos tipos de acciones: substrayéndolos, adhiriéndolos, alternándolos y reposicionándolos, siempre y cuando dichas manipulaciones sean válidas por dichas normas.
Estos sistemas son autónomos, pues no requieren que se le introduzcan nuevos conocimientos o definiciones del mundo exterior para su funcionamiento normal.
Son además, sistemas digitales [5], es decir, son métodos fiables de escritura/lectura (producción y reidentificación) de elementos, a partir una colección de tipos determinados previamente. La ultima característica de estos sistemas, es que la totalidad de manipulaciones que se pueden realizar, deben ser siempre finitas [5].
Por último, a pesar de ser autónomos, estos pueden ser interpretados por significados del mundo exterior. El ente autónomo, simplemente produce significado por sintaxis, es decir por las reglas establecidas en el sistema, pero mediante el lenguaje humano, podemos interprétalo por su semántica, dando un significado. Es por esto que las normas, para ser interpretadas, deben de ser siempre veraces.
Regresando a la perspectiva funcionalista, podemos implicar que la Inteligencia Artificial puede ser a su vez fuerte o débil [4] [8]. Débil es cuando solo simula tener ciertas funciones humanas y fuertes cuando se evalúa su capacidad de ser verdaderamente inteligente.
Un sistema formal automático interpretado, puede tener Inteligencia Artificial Fuerte, cuando su sistema es formalmente equivalente [5] a la inteligencia humana o a un sentido especial de la misma (Sistemas Expertos), pero a la vez, que sea independiente.
Esta idea, sería válida, siempre y cuando, nos suscribamos a la interpretación de que el cerebro humano es una “computadora” [5]. Para ser formalmente equivalente, el cerebro humano y la computadora, deberán ser capaces de cumplir las mismas normas de sus respectivas bases, pero su control debe de ser aislado.
Alan Turing (1912- 1954) propuso un test [4] [8], que tenía la finalidad de evaluar si una computadora era capaz de tener “Inteligencia Artificial Fuerte”. Esta prueba de habilidad, consistía en evaluar si una computadora, mientras se comunica con un ser humano, utilizando signos escritos, era capaz de hacer concluir al usuario, que no se podía distinguir si la maquina ,con la cual se estaba conversando, se trataba de una computadora u otra persona real.
Para pasar esta prueba la computadora debía de ser capaz de procesar un lenguaje, de retener información, de procesar los conocimientos mediante razonamiento y del aprendizaje [8]. Este test únicamente se relacionó a la inteligencia computacional, pues a su vez no trataba del aspecto físico receptivo de la Inteligencia Artificial [5].
Por su parte, John Searle (1932- ), propuso un experimento, para poner a prueba el test de Turing, con una contrapropuesta: “El experimento de la sala china”. En este experimento, un hablante de un idioma chino, realiza el test de Turing, primero con una computadora y luego una persona real que no entiende el idioma, pero que tiene escrito instrucciones, sobre que decir cuando el otro sujeto escribía en chino, comandos específicos [4].
Según las conclusiones de Searle, en ambos casos, el hablante del idioma chino, será capaz de confirmar que ambos saben el idioma, ¿Será esto confirmatorio de que la Inteligencia Artificial sabe el idioma en realidad? [4].
La base del experimento concluye que el software, por sí mismo, no hace “pensamientos” inteligentes, sino que simplemente los simula. Los elementos de la inteligencia computacional, así entendidos, implican necesariamente la intervención de un programador, es decir ”…una maquina no podrá hacer más aquello para lo que le programe un ser humano, por lo cual, no podrá nunca superar a su programador.”(Pág. 16) [4]
Entrando en materia y a falta de una doctrina especializada, me remitiré al informe del Comité de Expertos de la Oficina Internacional de la OMPI de 1992, que señala el tratamiento de un posible protocolo del Convenio de Berna [9], por medio del cual, se consideró por primera vez, el régimen de la propiedad intelectual sobre los sistemas expertos:
Según el documento, la I.A. artificial se divide en tres los tipos: Los sistemas de percepción, los sistemas del lenguaje natural y los sistemas expertos. [9] El documento, no le dio tratamiento a las dos primeras ramificaciones, por considerar, que ambas estaban en desarrollo, en cambio sí le dio tratamiento a los sistemas expertos.
Los sistemas expertos [8] son aquellos que tienden a imitar a un humano experto en alguna materia, a través de una base de conocimientos previos. Los sistemas expertos utilizan normalmente una base de hechos [8], que le permiten desarrollar un aprendizaje por experiencia.
La solución, en el tratamiento de los Derechos de Autor en el convenio, sobre estos tipo de sistema fue que solo se les reconocería sobre su programas derechos de autor a su programadores, de la misma manera que se protegen los códigos fuentes como obras literarias [9] y de igual manera a su base de conocimientos bajo el régimen de protección de la bases de datos [9].
Sobre las conclusiones antes vertidas, se puede presuponer que el inventor es dueño de la propiedad intelectual de los productos de su invento, pues es el quien programa o diseña los elementos compositores de la obra [10]. Lo anterior dicho se debe, a que las propiedades intelectuales de los derechos de autor, solo tienen como objeto, las obras creadas por seres humanos y no las que realiza “una maquina” sin intervención[10].
Desde la perspectiva de la justificación de los derechos de autor, es de recalcar dos posiciones que podrían justificar lo anterior [11]:
La Posición Deontológica: los productos, aun los que se asemejan a un concepto de obra, son protegidos por el valor del trabajo puesto en la “invención”. Por ellos no puede ser otro, que no sea el inventor, que disfrute de los frutos de su trabajo.
La Posición Consecuencialista: Se protege la creaciones generadas por una Inteligencia Artificial, porque las mismas tienen un valor comercial, ese valor comercial es de quien sea dueño de la computadora o el sistema inteligente.
Actualmente la Inteligencia Artificial (agentes inteligentes, sistemas expertos, redes neuronales, etc.), diseñada para producir una “obra”, son objeto de Propiedad intelectual y nunca sujeto. Esto es debido a tres situaciones:
1) El actor inteligente [12], es un actor de libre autodeterminación [13], cosa que carecería de momento la I.A. Por eso no se le considera que tenga poder de decisión sobre los contenidos de la obra y por tanto no tiene responsabilidad civil ni penal por los mismos.
2) El ámbito de ejecución del agente sobre la obra, se limitaría, al menos, a la creación de la obra. Ulteriormente, no será capaz de pronunciarse sobre el uso de la obra, es decir no puede retractarse [10].
3) El agente no tiene capacidad de obrar, ni es titular de derechos, lo que es consecuencia de no estar dotado de personalidad jurídica [12].
Todo apunta a que las computadoras inteligentes nunca tendrán la calidad de autor o una figura análoga y sus creaciones nunca se le considerarán obras independientes. Pero los avances tecnológicos y científicos de la materia, podrían superar estas limitaciones, pues fundamento de esta disciplina es alcanzar razonamiento e inteligencia autónoma.
Antes de seguir sobre la marcha, es necesario proponer un concepto de Creación Intelectual Artificial, en contraste a las creaciones intelectuales humanas, las cuales en el ámbito de Derechos de Autor, les llamamos obras [10].
Creación Intelectual Artificial: Es un producto semánticamente interpretable por los símbolos que la componen, elaborado con un grado originalidad, producido por artefactos o sistemas artificiales, por métodos o dispositivos heurísticos de conocimiento o análisis, con reglas estilísticas, que se asemejan o son equivalentes a las de las manifestaciones intelectuales humanas.
Para que este tipo de creaciones, sean capaces de ser equivalentes a una obra humana, es necesario que se produzcan por medio de “creatividad artificial” [14]. Para alcanzar este grado de “creatividad” cualquier agente o sistema deberá de ser capaces de:
1) Determinación creativa o artística (Libertad)[13]: Deben de tener una “motivación” o objetivo[2], a partir de la recepción de un modelo real pero dando paso a proceso de lógica difusa [8], la cual supera la rutinas programadas, devolviendo un resultado no esperado pero estable (originalidad) .
Podemos explicar mejor, el porqué de la necesidad de usar este tipo de lógica en las computadoras, cuando observamos que en el mundo real las obras son siempre creadas tomando como base algo preexistente, pero el producto del esfuerzo mental, es a su vez original e independiente.
2) La resolución creativa de problemas: Las computadoras creativas [14], operan a través de un mundo de posibilidades, herramienta con la cual, puede ampliar su conocimiento a partir de la búsqueda de una nueva resolución.
El punto clave es buscar un método basado en heurística [8]. Este método consiste en una serie de soluciones falibles (a diferencia de un algoritmo el cual debe ser siempre infalible) pero fiables [5], las cuales siempre están en constante actualización, pues siempre buscan una nueva manera de resolver los problemas y empieza a resolver los nuevos problemas, desde una «huella» de las resoluciones exitosas del pasado.
La Creatividad de la I.A. que persigue una equivalencia formal de la creatividad humana, en la práctica tiene una utilidad más industrial, pues en la realidad, sería verdaderamente raro, que se invirtiera en lograr la producción artística de una máquina. Lo que no sabemos, es si los avances en el campo de los actos inteligentes, en el ámbito de la I.A., nos podría llevar, a una máquina, que tenga la «libertad», la “voluntad” y la habilidad, para manifestar creaciones nuevas.
→
El sistema a base de presión hidráulica, demostró ser más eficiente que el uso de motores, para articular las extremidades del prototipo. Los miembros del equipo multidisciplinario, se felicitaron a sí mismos, cuando el robot pudo levantarse por sí solo, sin necesidad de expresarle una orden o un comando…Es capaz de andar.
Recientemente se le había instalado sensores térmicos e infrarrojos, que funcionaban como un sistema independiente. Podía traducir los datos obtenidos a un concepto humano, mediante un proceso que clasificaba objetos por su estructura molecular. Inclusive es capaz de analizar la composición de sustancias como pinturas convencionales, por lo que también distingue colores…Es capaz de ver.
Sus receptores de sonido, omnidireccionales, tienen la facultad de percibir ruidos, inclusive los infrasonidos, a distancia moderadas. Su hardware, puede dividir las oscilaciones causadas por un “enjambre” de ruidos en distintas capas…Es capaz de oír.
Su carcaza, está cubierta por una “piel” flexible, hecha de pequeñas placas encadenadas unas con otras, con una forma parecida a una cota de malla. Mediante sensores estratégicamente ubicados, capaces de percibir calor, podría determinar cuándo un cuerpo le toca…Es capaz de sentir.
Una red de nanomembranas, podían atrapar partículas más pequeñas que una micra, sirviendo de una suerte de colador diminuto, que simplemente tiene el propósito de aislar las sustancias por su tamaño, para luego analizar su composición…Es capaz de olfatear.
Su software, fue construido por expertos en simulación del comportamiento y razonamiento, quienes compartieron su propio proyecto en la investigación, una serie de módulos, que “estimulaban” al prototipo, a través de estímulos de la percepción del mundo exterior.
En pocas palabras el prototipo era autónomo, podía aprender y corregir su aprendizaje, elaborara su propia red de conocimientos, a fin de tomar decisiones en base de los antecedentes.
Los investigadores, decidieron no tomar parte en la evolución de su experimento, aunque algunos miembros del equipo desarrollador, advirtieron que esa postura podía ser infructuosa para la investigación, pues el programa había demostrado ser inestable.
Aun así, nadie se pudo esperar la ruta que tomaría el experimento, que duró apenas tres meses, pues el prototipo se obsesiono con el lenguaje. Todo comenzó un día, mientras los investigadores observaban, tras una ventana de la habitación, donde se encontraba el prototipo, algo que les dejo boquiabiertos.
El prototipo dirigió su atención a algo que estaba escrito en la pared de la habitación, mientras que los indicadores señalaban, un procesamiento que usaba una enorme cantidad de memoria. Al parecer el prototipo fue capaz de distinguir que la frase, que estaba escrita en la pared, podía tener significado. Dicha frase estaba en latín y decía:
Nimium ne crede colori.
El conjunto de grafías, le era ajeno al prototipo, pues hasta entonces no había visto ninguna expresión humana escrita. El prototipo, busco referencias de las palabras en la realidad, y pudo ubicar una sola, colori, que significa colores.
Mediante el uso de sus extremidades articuladas, escribió esa palabra en la pared, usando un destornillador que tenia cerca. Los investigadores se quedaron pasmados de lo rápido que fue capaz aprender la.
Fue por eso que por simple curiosidad, quitaron, cualquier instrumento de la habitación y los remplazarlos por libros, revistas, panfletos, periódicos, etc. Todo lo que podían encontrar, inclusive en diferentes idiomas, pero principalmente en español. Una de las desarrolladoras, pensó que también podía ser buena idea darle lápiz y papel, pues ya había demostrado que podía reproducir el lenguaje escrito.
El prototipo aprendió como usar el lápiz, y primero escribía algunas palabras una por una, sin correlación, de las cuales las que más repetía en español eran: color, casa, correspondiente, unido, correlativo, incorporado e integrado. Con el tiempo las palabras sueltas se convirtieron en frases, usando siempre verbos infinitivos.
No tardo en escribir bosquejos mal logrados de relatos, una hazaña que impacto a todos los miembros del grupo, pues contenían un razonamiento nunca antes visto en una Inteligencia Artificial. Aquellos cuentos hablaban un personaje, el cual no había nombrado, que se pasaba dando vueltas en medio de la nada.
El personaje escribía letras, inclusive pictogramas, con su pies cuando daba vueltas. El lugar donde estaba lo describía como un lugar sin color, cubierto por una masa sin forma y llena de pulsaciones electromagnéticas que hacían cambiar su textura.
En uno de sus tantos cuentos, el personaje sin nombre, había sido capaz de escribir la palabra color. De repente un color intenso, como nada lo que había visto un ser humano, apareció en frente de este.
Era un color parpadeante, ondulado, que tenía su origen en un punto imperceptible, lo que hacía parecer que era infinito. El color, no era un color en el sentido convencional de la palabra, sino que era una figura muy abstracta, con contornos rojizos pero predomínate blanco amarillo y azul.
El tiempo pasó y el experimento dejo de tener sentido. No había novedades en el comportamiento del prototipo, aun cuando reseteaban su ciclo de aprendizaje, por lo que hace tiempo el equipo empaco y dio por fallido el experimento. Aun así fue por varios años una curiosidad, sobre la cual se hicieron documentales y reportajes periódicos, por lo que la universidad, promociono al prototipo, como un avance de la tecnología.
El prototipo se había diseñado para tener una de vida útil de tres años, y en ese tiempo escribió, con lápiz y papel: 80,850 cuentos, 125,645 sonetos, 14,200 fábulas (Las que su moraleja siempre era nunca «desanimarse» por no encontrar el color) y no se dedicó a aprender otra actividad.
El coordinador del proyecto, encontró años después de la defunción del prototipo, varios de sus cuentos, que se quedó. Se alteró bastante al leerlos, pues en ellos evidentemente se expresaban miedos, deseos y tristeza.
Sus años de estudio y practicas filosóficas sobre la Inteligencias Artificial, no le permitían quedar convencido de que esas manifestaciones humanas, las había expresado un robot, aun cuando lo había visto con sus propios ojos.
No dejaba de preguntarse, quién era el autor de esos cuentos y adónde se escondía. Se preguntó si a dentro de aquella máquina, era posible que hubiera una mente, y si lo había, pudiera ser que había un espíritu.
-¿Adónde te escondes?- Grito en su sala de estar.
Esta pregunta que dejo escrita en uno de sus libros a lápiz, es una cuestión, que no importando que tanto avanzara la tecnología, nunca se pudo contestar.
Fuentes
[1] DAVID G. MYERS, Psicología, 7° edición, Editorial Médica Panamericana, 2006.
[2] LUIS PUELLES, JOSÉ SÁNCHEZ CÁNOVAS Y PEDRO ALBERTOS, Inteligencia Artificial e Inteligencia Humana, S/F, Sociedad Económica de Amigos del País, Valencia.
[3] HOWAR GARNER, Inteligencias Múltiples, La teoría en la practica, S/F, Piados, Barcelona.
[4] CARLOS BEORLEGUI, Filosofía de la mente: Visión panorámica y situación actual, 2007, Realidad: Revista de Ciencias Sociales y Humanidades, Nº. 111, Págs. 121-160
[5] JHON HAUGELAND, La Inteligencia Artificial, 2007, Siglo Veintiuno Editores.
[6] STUART RUSSELL, PETER NORVIG, Artificial Intelligence: A Moderm Approach, 1995, Pretince-Hall Inc, New Jersey.
[7] ALEJANDRO PAZOS Y OTROS, Inteligencia Artificial y Computación Avanzada, 2007, Penousal Martins Machado , Fernando Jorge (Eds.), Santiago de Compostela: Fundación Alfredo Brañas.
[8] RAFAEL LAHOZ-BELTRÁ, Bioinformática simulación, vida artificial e inteligencia artificial, 2004, Ediciones Díaz de Santos, Madrid, Tercera Parte.
[9] OFICINA INTERNACIONAL (OMPI), Documento de Comité de Expertos sobre un eventual protocolo relativo al convenio de Berna para la protección de obras literarias y artísticas, Ginebra, 4 a 8 de noviembre de 1991.
[10] RODRIGO BERCOVITZ RODRÍGUEZ-CANO Y OTROS, Manual de Propiedad Intelectual, 2012, Editorial Tirant lo Blanch, 5°edición, Valencia.
[11] HORACIO M. SPECTOR, Lineamientos de una Teoría Justificatoria de los Derechos de Propiedad Intelectual e Industrial, artículo sustraído de la recopilación Derechos Intelectuales tomo 3, 1988, editorial Astrea, Pag.21 -33
[12] LUIGI FERRAJOLI, Principia Iuris. Teoría del Derecho y de la Democracia 1.Teoria del Derecho, 2011, Editorial Trotta.
[13] ADELA CORTINA, Neuroética: ¿Ética fundamental o ética aplicada?, artículo sustraído de la recopilación, Bioética, Neuroética, Libertad Y Justicia, S/F, Editorial Comares. Pag.802-827
[14] AMÍLCAR CARDOSO Y JUAN JESÚS ROMERO, Creatividad Computacional, artículo sustraído de la recopilación Inteligencia Artificial Y Computación Avanzada. Págs. 149-172
*Abogado y Consultor, Dret Abogados & Consultores, El Salvador. Licenciado en Ciencias Jurídicas, de la Universidad Centroamericana José Simeón Cañas, Antiguo Cuscatlán, San Salvador, El Salvador, Egresado de la Maestría en Derecho de Empresas de la misma universidad.
**Concepto propio, que se asemeja a la idea de las creaciones de la mente humana.
Derechos de Autor para escritores. 