1. Número 1 · Enero 2015

  2. Número 2 · Enero 2015

  3. Número 3 · Enero 2015

  4. Número 4 · Febrero 2015

  5. Número 5 · Febrero 2015

  6. Número 6 · Febrero 2015

  7. Número 7 · Febrero 2015

  8. Número 8 · Marzo 2015

  9. Número 9 · Marzo 2015

  10. Número 10 · Marzo 2015

  11. Número 11 · Marzo 2015

  12. Número 12 · Abril 2015

  13. Número 13 · Abril 2015

  14. Número 14 · Abril 2015

  15. Número 15 · Abril 2015

  16. Número 16 · Mayo 2015

  17. Número 17 · Mayo 2015

  18. Número 18 · Mayo 2015

  19. Número 19 · Mayo 2015

  20. Número 20 · Junio 2015

  21. Número 21 · Junio 2015

  22. Número 22 · Junio 2015

  23. Número 23 · Junio 2015

  24. Número 24 · Julio 2015

  25. Número 25 · Julio 2015

  26. Número 26 · Julio 2015

  27. Número 27 · Julio 2015

  28. Número 28 · Septiembre 2015

  29. Número 29 · Septiembre 2015

  30. Número 30 · Septiembre 2015

  31. Número 31 · Septiembre 2015

  32. Número 32 · Septiembre 2015

  33. Número 33 · Octubre 2015

  34. Número 34 · Octubre 2015

  35. Número 35 · Octubre 2015

  36. Número 36 · Octubre 2015

  37. Número 37 · Noviembre 2015

  38. Número 38 · Noviembre 2015

  39. Número 39 · Noviembre 2015

  40. Número 40 · Noviembre 2015

  41. Número 41 · Diciembre 2015

  42. Número 42 · Diciembre 2015

  43. Número 43 · Diciembre 2015

  44. Número 44 · Diciembre 2015

  45. Número 45 · Diciembre 2015

  46. Número 46 · Enero 2016

  47. Número 47 · Enero 2016

  48. Número 48 · Enero 2016

  49. Número 49 · Enero 2016

  50. Número 50 · Febrero 2016

  51. Número 51 · Febrero 2016

  52. Número 52 · Febrero 2016

  53. Número 53 · Febrero 2016

  54. Número 54 · Marzo 2016

  55. Número 55 · Marzo 2016

  56. Número 56 · Marzo 2016

  57. Número 57 · Marzo 2016

  58. Número 58 · Marzo 2016

  59. Número 59 · Abril 2016

  60. Número 60 · Abril 2016

  61. Número 61 · Abril 2016

  62. Número 62 · Abril 2016

  63. Número 63 · Mayo 2016

  64. Número 64 · Mayo 2016

  65. Número 65 · Mayo 2016

  66. Número 66 · Mayo 2016

  67. Número 67 · Junio 2016

  68. Número 68 · Junio 2016

  69. Número 69 · Junio 2016

  70. Número 70 · Junio 2016

  71. Número 71 · Junio 2016

  72. Número 72 · Julio 2016

  73. Número 73 · Julio 2016

  74. Número 74 · Julio 2016

  75. Número 75 · Julio 2016

  76. Número 76 · Agosto 2016

  77. Número 77 · Agosto 2016

  78. Número 78 · Agosto 2016

  79. Número 79 · Agosto 2016

  80. Número 80 · Agosto 2016

  81. Número 81 · Septiembre 2016

  82. Número 82 · Septiembre 2016

  83. Número 83 · Septiembre 2016

  84. Número 84 · Septiembre 2016

  85. Número 85 · Octubre 2016

  86. Número 86 · Octubre 2016

  87. Número 87 · Octubre 2016

  88. Número 88 · Octubre 2016

  89. Número 89 · Noviembre 2016

  90. Número 90 · Noviembre 2016

  91. Número 91 · Noviembre 2016

  92. Número 92 · Noviembre 2016

  93. Número 93 · Noviembre 2016

  94. Número 94 · Diciembre 2016

  95. Número 95 · Diciembre 2016

  96. Número 96 · Diciembre 2016

  97. Número 97 · Diciembre 2016

  98. Número 98 · Enero 2017

  99. Número 99 · Enero 2017

  100. Número 100 · Enero 2017

  101. Número 101 · Enero 2017

  102. Número 102 · Febrero 2017

  103. Número 103 · Febrero 2017

  104. Número 104 · Febrero 2017

  105. Número 105 · Febrero 2017

  106. Número 106 · Marzo 2017

  107. Número 107 · Marzo 2017

  108. Número 108 · Marzo 2017

  109. Número 109 · Marzo 2017

  110. Número 110 · Marzo 2017

  111. Número 111 · Abril 2017

  112. Número 112 · Abril 2017

  113. Número 113 · Abril 2017

  114. Número 114 · Abril 2017

  115. Número 115 · Mayo 2017

  116. Número 116 · Mayo 2017

  117. Número 117 · Mayo 2017

  118. Número 118 · Mayo 2017

  119. Número 119 · Mayo 2017

  120. Número 120 · Junio 2017

  121. Número 121 · Junio 2017

  122. Número 122 · Junio 2017

  123. Número 123 · Junio 2017

  124. Número 124 · Julio 2017

  125. Número 125 · Julio 2017

  126. Número 126 · Julio 2017

  127. Número 127 · Julio 2017

  128. Número 128 · Agosto 2017

  129. Número 129 · Agosto 2017

  130. Número 130 · Agosto 2017

  131. Número 131 · Agosto 2017

  132. Número 132 · Agosto 2017

  133. Número 133 · Septiembre 2017

  134. Número 134 · Septiembre 2017

  135. Número 135 · Septiembre 2017

  136. Número 136 · Septiembre 2017

  137. Número 137 · Octubre 2017

  138. Número 138 · Octubre 2017

  139. Número 139 · Octubre 2017

  140. Número 140 · Octubre 2017

  141. Número 141 · Noviembre 2017

  142. Número 142 · Noviembre 2017

  143. Número 143 · Noviembre 2017

  144. Número 144 · Noviembre 2017

  145. Número 145 · Noviembre 2017

  146. Número 146 · Diciembre 2017

  147. Número 147 · Diciembre 2017

  148. Número 148 · Diciembre 2017

  149. Número 149 · Diciembre 2017

  150. Número 150 · Enero 2018

  151. Número 151 · Enero 2018

  152. Número 152 · Enero 2018

  153. Número 153 · Enero 2018

  154. Número 154 · Enero 2018

  155. Número 155 · Febrero 2018

  156. Número 156 · Febrero 2018

  157. Número 157 · Febrero 2018

  158. Número 158 · Febrero 2018

  159. Número 159 · Marzo 2018

  160. Número 160 · Marzo 2018

  161. Número 161 · Marzo 2018

  162. Número 162 · Marzo 2018

  163. Número 163 · Abril 2018

  164. Número 164 · Abril 2018

  165. Número 165 · Abril 2018

  166. Número 166 · Abril 2018

  167. Número 167 · Mayo 2018

  168. Número 168 · Mayo 2018

  169. Número 169 · Mayo 2018

  170. Número 170 · Mayo 2018

  171. Número 171 · Mayo 2018

  172. Número 172 · Junio 2018

  173. Número 173 · Junio 2018

  174. Número 174 · Junio 2018

  175. Número 175 · Junio 2018

  176. Número 176 · Julio 2018

  177. Número 177 · Julio 2018

  178. Número 178 · Julio 2018

  179. Número 179 · Julio 2018

  180. Número 180 · Agosto 2018

  181. Número 181 · Agosto 2018

  182. Número 182 · Agosto 2018

  183. Número 183 · Agosto 2018

  184. Número 184 · Agosto 2018

  185. Número 185 · Septiembre 2018

  186. Número 186 · Septiembre 2018

  187. Número 187 · Septiembre 2018

  188. Número 188 · Septiembre 2018

  189. Número 189 · Octubre 2018

  190. Número 190 · Octubre 2018

  191. Número 191 · Octubre 2018

  192. Número 192 · Octubre 2018

  193. Número 193 · Octubre 2018

  194. Número 194 · Noviembre 2018

  195. Número 195 · Noviembre 2018

  196. Número 196 · Noviembre 2018

  197. Número 197 · Noviembre 2018

  198. Número 198 · Diciembre 2018

  199. Número 199 · Diciembre 2018

  200. Número 200 · Diciembre 2018

  201. Número 201 · Diciembre 2018

  202. Número 202 · Enero 2019

  203. Número 203 · Enero 2019

  204. Número 204 · Enero 2019

  205. Número 205 · Enero 2019

  206. Número 206 · Enero 2019

  207. Número 207 · Febrero 2019

  208. Número 208 · Febrero 2019

  209. Número 209 · Febrero 2019

  210. Número 210 · Febrero 2019

  211. Número 211 · Marzo 2019

  212. Número 212 · Marzo 2019

  213. Número 213 · Marzo 2019

  214. Número 214 · Marzo 2019

  215. Número 215 · Abril 2019

  216. Número 216 · Abril 2019

  217. Número 217 · Abril 2019

  218. Número 218 · Abril 2019

  219. Número 219 · Mayo 2019

  220. Número 220 · Mayo 2019

  221. Número 221 · Mayo 2019

  222. Número 222 · Mayo 2019

  223. Número 223 · Mayo 2019

  224. Número 224 · Junio 2019

  225. Número 225 · Junio 2019

  226. Número 226 · Junio 2019

  227. Número 227 · Junio 2019

  228. Número 228 · Julio 2019

  229. Número 229 · Julio 2019

  230. Número 230 · Julio 2019

  231. Número 231 · Julio 2019

  232. Número 232 · Julio 2019

  233. Número 233 · Agosto 2019

  234. Número 234 · Agosto 2019

  235. Número 235 · Agosto 2019

  236. Número 236 · Agosto 2019

  237. Número 237 · Septiembre 2019

  238. Número 238 · Septiembre 2019

  239. Número 239 · Septiembre 2019

  240. Número 240 · Septiembre 2019

  241. Número 241 · Octubre 2019

  242. Número 242 · Octubre 2019

  243. Número 243 · Octubre 2019

  244. Número 244 · Octubre 2019

  245. Número 245 · Octubre 2019

  246. Número 246 · Noviembre 2019

  247. Número 247 · Noviembre 2019

  248. Número 248 · Noviembre 2019

  249. Número 249 · Noviembre 2019

  250. Número 250 · Diciembre 2019

  251. Número 251 · Diciembre 2019

  252. Número 252 · Diciembre 2019

  253. Número 253 · Diciembre 2019

  254. Número 254 · Enero 2020

  255. Número 255 · Enero 2020

  256. Número 256 · Enero 2020

  257. Número 257 · Febrero 2020

  258. Número 258 · Marzo 2020

  259. Número 259 · Abril 2020

  260. Número 260 · Mayo 2020

  261. Número 261 · Junio 2020

  262. Número 262 · Julio 2020

  263. Número 263 · Agosto 2020

  264. Número 264 · Septiembre 2020

  265. Número 265 · Octubre 2020

  266. Número 266 · Noviembre 2020

  267. Número 267 · Diciembre 2020

  268. Número 268 · Enero 2021

  269. Número 269 · Febrero 2021

  270. Número 270 · Marzo 2021

  271. Número 271 · Abril 2021

  272. Número 272 · Mayo 2021

  273. Número 273 · Junio 2021

  274. Número 274 · Julio 2021

  275. Número 275 · Agosto 2021

  276. Número 276 · Septiembre 2021

  277. Número 277 · Octubre 2021

  278. Número 278 · Noviembre 2021

  279. Número 279 · Diciembre 2021

  280. Número 280 · Enero 2022

  281. Número 281 · Febrero 2022

  282. Número 282 · Marzo 2022

  283. Número 283 · Abril 2022

  284. Número 284 · Mayo 2022

  285. Número 285 · Junio 2022

  286. Número 286 · Julio 2022

  287. Número 287 · Agosto 2022

  288. Número 288 · Septiembre 2022

  289. Número 289 · Octubre 2022

  290. Número 290 · Noviembre 2022

  291. Número 291 · Diciembre 2022

  292. Número 292 · Enero 2023

  293. Número 293 · Febrero 2023

  294. Número 294 · Marzo 2023

  295. Número 295 · Abril 2023

  296. Número 296 · Mayo 2023

  297. Número 297 · Junio 2023

  298. Número 298 · Julio 2023

  299. Número 299 · Agosto 2023

  300. Número 300 · Septiembre 2023

  301. Número 301 · Octubre 2023

  302. Número 302 · Noviembre 2023

  303. Número 303 · Diciembre 2023

  304. Número 304 · Enero 2024

  305. Número 305 · Febrero 2024

  306. Número 306 · Marzo 2024

  307. Número 307 · Abril 2024

  308. Número 308 · Mayo 2024

  309. Número 309 · Junio 2024

CTXT necesita 15.000 socias/os para seguir creciendo. Suscríbete a CTXT

NOAM CHOMSKY / FILÓSOFO Y LINGÜISTA

“No creo que se puedan controlar las amenazas de la tecnología avanzada”

C. J. Polychroniou (Common Dreams) 20/05/2023

<p>Noam Chomsky, en una imagen de archivo. / <strong>DN</strong></p>

Noam Chomsky, en una imagen de archivo. / DN

En CTXT podemos mantener nuestra radical independencia gracias a que las suscripciones suponen el 70% de los ingresos. No aceptamos “noticias” patrocinadas y apenas tenemos publicidad. Si puedes apoyarnos desde 3 euros mensuales, suscribete aquí

La Inteligencia Artificial (IA) se está expandiendo por el mundo. Está transformando todos los ámbitos de la vida y, en el proceso, plantea importantes cuestiones éticas para la sociedad y el futuro de la humanidad. ChatGPT, que se está haciendo con las redes sociales, es un chatbot de IA desarrollado por OpenAI. Es un subconjunto de aprendizaje automático basado en lo que se denomina modelos de lenguaje LLM, que generan respuestas parecidas a las de un humano. No cabe duda de que las posibilidades de aplicación de una tecnología como esta son enormes, por eso ya se escuchan voces que piden la regulación de las IA tipo ChatGPT.

¿Puede la IA burlar a los humanos? ¿Supone una amenaza pública? Es más, ¿puede la IA convertirse en una amenaza existencial? Noam Chomsky, el lingüista más destacado del mundo y uno de los intelectuales públicos más valorados de todos los tiempos, cuya talla intelectual se ha comparado con la de Galileo, Newton y Descartes, aborda estas preguntas incómodas en la siguiente entrevista. 

Como disciplina científica, la inteligencia artificial (IA) se remonta a la década de 1950, pero en los últimos veinte años se ha ido abriendo paso en campos de todo tipo, como la banca, los seguros, la industria automotriz, la música y la defensa. De hecho, se ha demostrado que en algunos casos el uso de técnicas de IA supera las habilidades humanas, como en el ajedrez. ¿Cabe la posibilidad de que las máquinas lleguen a ser más inteligentes que los humanos?

Por aclarar la terminología, cuando decimos “máquina” nos referimos a un programa, es decir, una teoría escrita en código que ejecuta un ordenador (una teoría singular e interesante en muchos aspectos que no vamos a comentar aquí). 

A grandes rasgos, podemos diferenciar entre ingeniería pura y ciencia. No existe una división clara, pero nos sirve para una primera aproximación. La ingeniería pura busca la elaboración de un producto que sea útil. La ciencia busca entender. Si el tema es la inteligencia humana o las habilidades cognitivas de otros organismos, la ciencia busca entender esos sistemas biológicos.

Entiendo que los padres de la IA –Alan Turing, Herbert Simon y Marvin Minsky, entre otros– la consideraban una ciencia, parte de las entonces incipientes ciencias cognitivas, y se valían de las nuevas tecnologías y los nuevos descubrimientos en la teoría matemática de la computación para avanzar en el entendimiento. A lo largo de los años, esa tendencia ha ido desapareciendo y se ha visto desplazada en gran medida por el enfoque de la ingeniería. Ahora, con cierta condescendencia, al interés inicial se le suele tachar de simbólico (o GOFAI, siglas de good old-fashioned AI,  “IA a la antigua usanza”). 

Muchos organismos biológicos superan las habilidades cognitivas humanas en mayor profundidad

Volviendo a la pregunta, ¿cabe la posibilidad de que se diseñen programas que superen las habilidades humanas? Debemos tener cuidado con la palabra “habilidades”, por motivos que daré más adelante. Pero si con el término nos referimos a la actuación humana, la respuesta es un rotundo sí. En realidad, llevan mucho tiempo existiendo, como la calculadora en el ordenador, por ejemplo. Excede con creces lo que hace un humano, aunque solo sea por falta de tiempo y de memoria. En el caso de los sistemas cerrados como el ajedrez, quedó patente en los cincuenta que, antes o después, con el avance de las ingentes capacidades informáticas y un amplio periodo de preparación, se podría diseñar un programa que venciese a un Gran Maestro, que juega con un límite de memoria y de tiempo. Lo que se consiguió unos años después fue básicamente publicidad para IBM. Muchos organismos biológicos superan las habilidades cognitivas humanas en mayor profundidad. Las hormigas del desierto que hay en mi jardín tienen un cerebro minúsculo, pero exceden en mucho la capacidad de orientación humana, en general, no solo en cuanto a actuación. No hay una Gran Cadena del Ser con los humanos en la cúspide. 

Los productos de la ingeniería de IA se están usando en muchos campos, para bien o para mal. Hasta los más sencillos y conocidos pueden ser muy útiles: en el campo del lenguaje, por ejemplo, los programas de autorrelleno o de dictado o el traductor de Google. Con capacidades informáticas mucho mayores y una programación más sofisticada, debería haber más aplicaciones útiles, también para la ciencia. Ya hay algunas, como muestra el reciente caso del estudio del plegamiento de proteínas, en el que la tecnología de búsqueda rápida y a gran escala ha ayudado a los científicos a lidiar con un problema crítico y persistente.

Los proyectos de ingeniería pueden ser útiles o perjudiciales. Ambas cuestiones se plantean también en el caso de la ingeniería de IA. El trabajo actual con modelos de lenguaje LLM, como los chatbots, ofrece herramientas para desinformar, difamar y confundir a los que no tienen muchos datos. La amenaza es mayor cuando se combinan con imágenes artificiales y réplicas de voz. Con diversas preocupaciones en mente, decenas de miles de investigadores de IA han solicitado recientemente una moratoria en el desarrollo por los peligros potenciales que detectan.

Como siempre, las posibles ventajas de la tecnología tienen que sopesarse con los costes potenciales.

Las cuestiones que se plantean en cuanto a IA y ciencia son muy diferentes. En este caso, hay que tener mucho cuidado con ciertas afirmaciones descabelladas y desorbitadas, que los medios tienden a amplificar. Para aclarar la cuestión, analicemos algunos casos, unos hipotéticos y otros reales.

Antes he comentado la capacidad de orientación en los insectos, algo asombroso. Los entomólogos han hecho grandes avances en el estudio de su realización, pero la neurofisiología, una materia complicadísima, sigue siendo esquiva, igual que la evolución de los sistemas. Ocurre lo mismo con las increíbles hazañas que protagonizan los pájaros y las tortugas marinas, que tras viajar miles de kilómetros regresan infaliblemente al punto de partida.

Las posibles ventajas de la tecnología tienen que sopesarse con los costes potenciales

Imaginemos que se presenta fulanito, partidario de la ingeniería de IA, y dice: “Las conclusiones de tu trabajo han sido rebatidas. Problema resuelto. Los pilotos de aerolíneas comerciales logran los mismos resultados constantemente, incluso mejores”.

Ni nos molestaríamos en contestar, nos entraría la risa.

Veamos el caso del arte de navegación de los polinesios, aún vivo en las tribus indígenas, que usan las estrellas, los vientos y las corrientes para dirigir sus canoas hasta un lugar en concreto a cientos de kilómetros. También ha sido objeto de muchas investigaciones para descubrir cómo lo hacen. Fulanito tiene la respuesta: “Dejad de perder el tiempo, la flota naval lo hace constantemente”.

Misma reacción.

Analicemos ahora un caso real, la adquisición del lenguaje. En los últimos años ha sido objeto de investigaciones exhaustivas y muy reveladoras, que demuestran que los niños tienen un conocimiento muy amplio de la lengua (o lenguas) que habla su entorno, mucho mayor de lo que ponen de manifiesto. Han logrado demostrarlo con pocas pruebas, y en ocasiones cruciales, sin ninguna. En el mejor de los casos, como muestran minuciosos estudios estadísticos, los datos disponibles son escasos, sobre todo cuando se tiene en cuenta el grado de frecuencia (“la ley de Zipf”).

Entra fulanito en escena: “Queda rebatido. Sin tener en cuenta vuestros descubrimientos, los LLM, que registran cantidades desorbitantes de datos, encuentran regularidades estadísticas que hacen posible simular los datos con los que se entrenan y producir algo que se parece mucho al comportamiento normal humano. Los chatbots”.

Este caso difiere de los anteriores. Primero, porque es real. Segundo, porque a la gente no le entra la risa; de hecho, muchos están impresionados. Y tercero, porque al contrario que los casos hipotéticos, los resultados reales distan mucho de lo que se afirma.

Estas consideraciones sacan a relucir un pequeño problema del entusiasmo actual con los LLM: que son totalmente absurdos, como en los casos hipotéticos, que se veía enseguida. Sin embargo, hay problemas mucho más graves que el absurdo. 

Uno de ellos es que los sistemas de LLM están diseñados de tal manera que no nos dicen nada del lenguaje, del aprendizaje ni de otros aspectos cognitivos, y es una cuestión de principio, irremediable. Aunque dupliquemos los terabytes de datos registrados, añadamos unos millones de parámetros más y utilicemos todavía más energía de California, la simulación de comportamiento mejorará, pero al mismo tiempo, revelará con mayor claridad el fracaso de principio de un enfoque que no busca ningún tipo de entendimiento. La razón es evidente: los sistemas funcionan igual de bien con lenguas imposibles de aprender que con las que los niños adquieren rápido y casi instintivamente.

Es como si un biólogo dijera: “Se me ha ocurrido una nueva teoría buenísima sobre los organismos. Incluye muchos que existen y muchos que es imposible que existan, y no hay forma de diferenciarlos”.

De nuevo, nos entraría la risa. O debería.

Ya no es solo fulanito, estamos hablando de casos reales. Insistiendo en apartarse radicalmente de la ciencia, fulanito contesta: “¿Cómo lo sabes si no has investigado todas las lenguas?”. Llegados a este punto, el abandono de la ciencia normal se hace aún más patente. Por el mismo razonamiento, podemos deshacernos de la genética y la biología molecular, de la teoría de la evolución y del resto de ciencias biológicas, que no han analizado más que una ínfima parte de los organismos. Y por si acaso, también desterramos toda la física. ¿Por qué íbamos a creer en las leyes del movimiento de Newton? ¿Cuántos objetos se han observado de verdad en movimiento?

Por otro lado, está el ligero detalle de la carga probatoria. Los que plantean una teoría tienen la responsabilidad de demostrar que tiene sentido demostrando que no funciona con lenguas imposibles. No es responsabilidad de los demás rebatir el planteamiento, aunque en este caso parece bastante fácil hacerlo.

Prestemos atención ahora a la ciencia normal, donde los detalles cobran interés. Hasta un único ejemplo de adquisición del lenguaje puede ofrecer la oportunidad de entender mejor la diferencia entre lenguas posibles e imposibles.

Las razones están claras y son bien conocidas. Todo crecimiento y desarrollo, incluido el denominado “aprendizaje”, es un proceso que comienza con un estado del organismo y lo va transformando paso a paso en fases posteriores.

Es un principio establecido que la facultad del lenguaje tiene propiedades básicas específicas de los humanos

La adquisición del lenguaje es un proceso de este tipo. El estado inicial es el legado biológico de la facultad del lenguaje, que está claro que existe, aunque sea, como creen algunos, una combinación particular de otras capacidades. Es muy poco probable que sea así por motivos que hace mucho que quedaron claros y que no voy a explicar porque no son relevantes en lo que nos ocupa. Es obvio que hay un legado biológico en la facultad humana del lenguaje. Un mero axioma.

La transición da lugar a un estado relativamente estable, modificado solo en apariencia: el conocimiento de la lengua. Los datos externos desencadenan y configuran en parte el proceso. Mediante el estudio del estado alcanzado (el conocimiento de la lengua) y de los datos externos, podemos sacar conclusiones trascendentales sobre el estado inicial, el legado biológico que hace posible la adquisición del lenguaje. Las conclusiones sobre el estado inicial determinan la diferencia entre lenguas posibles e imposibles. Y esta diferencia es aplicable a todos aquellos que comparten el estado inicial, es decir, a todos los humanos, que se sepa, pues no parece que haya diferencia en la capacidad de adquisición del lenguaje entre los grupos humanos existentes.

Todo esto es ciencia normal y ha logrado muchos resultados.

Los experimentos demuestran que el estado estable se obtiene en buena parte muy pronto, hacia los tres o cuatro años. También es un principio establecido que la facultad del lenguaje tiene propiedades básicas específicas de los humanos, por lo que es una auténtica propiedad de la especie: es común a todos los grupos humanos y, en lo fundamental, un atributo humano único.

Hay mucho que se queda fuera de esta explicación esquemática, sobre todo el papel de las leyes naturales en el crecimiento y el desarrollo, y en el caso de un sistema computacional como el lenguaje, los principios de eficiencia computacional. Pero ahí está el quid de la cuestión. Repito: es ciencia normal.

Es importante dejar claro la distinción de Aristóteles entre posesión de conocimiento y uso de conocimiento (en términos modernos, competencia y actuación). En el caso del lenguaje, el estado estable que se obtiene es posesión de conocimiento, codificado en el cerebro. El sistema interno establece una variedad ilimitada de expresiones estructuradas, cada una de las cuales podemos considerar que plantea un pensamiento, cada uno de ellos externalizable mediante algún sistema sensoriomotor, normalmente el sonido, aunque podría ser un gesto o incluso (no sin dificultad) el tacto.

Si queremos entender qué tipo de criaturas somos, lo primero que debería interesarnos es lo que hace de los humanos la especie más única de todas

Al sistema codificado internamente se accede mediante el uso del conocimiento (la actuación). La actuación incluye el uso interno del lenguaje en el pensamiento: la reflexión, el planteamiento, los recuerdos y muchísimas cosas más. Desde el punto de vista estadístico, es por goleada el uso predominante del lenguaje. Es inaccesible a la introspección, aunque podemos aprender mucho sobre él con los métodos normales de la ciencia, desde “fuera”, metafóricamente hablando. Lo que llamamos “diálogo interior” en realidad son fragmentos de lenguaje externalizado con el aparato articulatorio en silencio. No es más que un reflejo remoto del uso interno del lenguaje, otro aspecto importante en el que no me voy a extender aquí.

Otras formas del uso del lenguaje son la percepción (el análisis sintáctico) y la producción. Esta última entraña propiedades que hoy siguen siendo un misterio, igual que lo eran cuando Galileo y sus contemporáneos las observaban con admiración en los albores de la ciencia moderna.

El objetivo principal de la ciencia es descubrir el sistema interno, tanto en el estado inicial de la facultad humana del lenguaje como en las formas específicas que adopta en la adquisición. En la medida en que conozcamos el sistema interno, podemos proceder a investigar cómo entra en actuación e interacciona con otros muchos factores que entran en el uso del lenguaje.

Los datos de la actuación ofrecen pruebas sobre la naturaleza del sistema interno, especialmente cuando los experimentos los hacen más precisos, como es habitual en el trabajo de campo. Pero hasta la recolección de datos más exhaustiva induce necesariamente a error en aspectos cruciales. Se atiene a lo que se produce normalmente, no al conocimiento del lenguaje codificado en el cerebro, objeto principal de investigación para los que quieren entender la naturaleza del lenguaje y su uso. Ese objeto interno establece infinitas posibilidades más de las que se usarían en un comportamiento normal por factores irrelevantes al lenguaje, como las limitaciones de la memoria a corto plazo, temas que se estudiaron hace sesenta años. Los datos observados también incluyen gran parte de lo que se queda fuera del sistema codificado en el cerebro, que suelen ser usos conscientes del lenguaje que incumplen las normas de los propósitos retóricos. Son axiomas que conocen todos los que realizan trabajo de campo, que dependen de técnicas de obtención de información con los voluntarios, básicamente experimentos, para generar un corpus mejorado que excluya restricciones irrelevantes y expresiones anómalas. Ocurre lo mismo cuando los lingüistas se usan a sí mismos como voluntarios, un procedimiento perfectamente normal y adecuado, habitual en la historia de la psicología hasta el día de hoy.

Lo que ofrece verdaderas pistas acerca de lo que nos hace únicos es lo que no es rutina

Si seguimos avanzando con la ciencia normal, descubrimos que los procesos internos y los elementos del lenguaje no pueden detectarse mediante la inspección de fenómenos observados. Normalmente estos elementos ni siquiera aparecen en el discurso (oral o escrito), aunque sus efectos, que suelen ser sutiles, sí se pueden detectar. Esto supone otro motivo más por el que restringirse a los fenómenos observados, como en los enfoques de LLM, limita drásticamente el entendimiento de los procesos internos que son el objeto principal de la investigación en la naturaleza del lenguaje, su adquisición y su uso. Sin embargo, nada de esto es relevante si el interés por la ciencia y el entendimiento se han abandonado en favor de otras metas.

En líneas más generales, la ciencia, durante miles de años, ha llegado a conclusiones a través de experimentos –normalmente experimentos mentales–, una abstracción radical del fenómeno. Los experimentos están basados en la teoría y buscan descartar los innumerables factores irrelevantes que entran en la observación de los fenómenos, como la actuación lingüística. Todo esto es tan básico que ni se discute. Se sabe. Como ya he comentado, la distinción básica se remonta a la de Aristóteles entre posesión y uso del conocimiento. La primera es el objeto central de estudio. Los estudios secundarios (muy importantes) investigan cómo se usa el sistema almacenado internamente en la actuación, junto con la multitud de factores no lingüísticos que entran en lo que se observa directamente.

Recordemos una observación del biólogo evolutivo Theodosius Dobzhansky, conocido principalmente por su trabajo con Drosophila: todas las especies son únicas, y la humana es la más única de todas. Si queremos entender qué tipo de criaturas somos –obedeciendo el mandato del Oráculo de Delfos de hace 2.500 años–, lo primero que debería interesarnos es lo que hace de los humanos la especie más única de todas, en especial el lenguaje y el pensamiento, estrechamente interconectados, como queda reflejado en la rica tradición que se remonta a la Grecia clásica y a la India. La mayor parte del comportamiento es bastante rutinario, y por lo tanto, hasta cierto punto predecible. Lo que ofrece verdaderas pistas acerca de lo que nos hace únicos es lo que no es rutina, y eso lo encontramos, unas veces mediante experimentos y otras mediante observación, tanto en niños normales como en grandes artistas y científicos.

La sociedad lleva un siglo plagada de intensas campañas corporativas que fomentan el desprecio por la ciencia

Un último comentario al respecto. La sociedad lleva un siglo plagada de intensas campañas corporativas que fomentan el desprecio por la ciencia, un tema que Naomi Oreskes, entre otros, ha estudiado bien. Todo empezó con corporaciones cuyos productos eran nocivos para la salud: plomo, tabaco, amianto y después combustibles fósiles. Sus motivaciones son comprensibles. El objetivo de un negocio en una sociedad capitalista es ganar dinero, no el bienestar de las personas. Es un hecho institucional: si no entras en el juego, estás fuera y alguien que sí lo haga vendrá a reemplazarte.

Los departamentos de relaciones públicas de las corporaciones enseguida se dieron cuenta de que sería un error negar las pruebas científicas que se iban acumulando de los efectos letales de sus productos. Sería fácil de rebatir. Era mejor sembrar la duda, alentar la incertidumbre, menospreciar a esos trajeados que nunca han pintado una casa pero vienen de Washington a decirme que no use pintura con plomo y destruyen mi negocio (caso real, perfectamente extrapolable). Ha funcionado demasiado bien. Ahora mismo nos está llevando por el camino de la destrucción de la vida humana organizada en la Tierra.

En algunos círculos intelectuales, la crítica posmoderna de la ciencia, que Jean Bricmont y Alan Sokal se encargaron de desmontar pero que sigue viva en ciertos ambientes, ha producido efectos similares.

Quizá sea incómodo plantearlo, pero creo que es razonable preguntarse si los fulanitos y los que repiten sin pensar e incluso amplifican sus negligentes proclamas están contribuyendo a las mismas tendencias siniestras.

Es posible que los proyectos de ingeniería futura incluso superen las habilidades humanas

ChatGPT es un chatbot basado en lenguaje natural que usa la inteligencia artificial para entablar conversaciones similares a las humanas. En un artículo reciente en The New York Times, junto con otros dos autores, usted calificaba los nuevos chatbots de despliegue publicitario porque sencillamente no están al mismo nivel que la competencia lingüística de los humanos. Sin embargo, ¿no es posible que innovaciones futuras en IA generen proyectos de ingeniería que sí estén al mismo nivel y que incluso lleguen a superar las habilidades humanas?

El mérito del artículo debemos atribuírselo a su verdadero autor, Jeffrey Watumull, excelente matemático, lingüista y filósofo. Los dos coautores éramos asesores que estuvimos de acuerdo con el artículo, pero no lo escribimos.

Es verdad que los chatbots en principio no están al mismo nivel de competencia lingüística que los humanos, por los motivos indicados anteriormente. Su diseño básico les impide alcanzar la condición mínima de adecuación para una teoría del lenguaje humano: distinguir entre lenguas posibles e imposibles. Como es una propiedad del diseño, no puede salvarse con innovaciones futuras en este tipo de IA. Sin embargo, es muy probable que los proyectos de ingeniería futura lleguen al mismo nivel e incluso superen las habilidades humanas, si nos referimos a la capacidad humana de actuar, a la actuación. Como ya se ha comentado, algunas llevan tiempo haciéndolo: las calculadoras automáticas, por ejemplo. Es más interesante, como indicaba, que haya insectos con el cerebro minúsculo que superan las habilidades humanas entendidas como competencia.

A menos que se controle con cuidado, la ingeniería de IA puede representar serias amenazas

En el artículo mencionado, también se observaba que los proyectos actuales de IA no tienen facultad moral humana. ¿Esta obviedad hace que los robots de IA supongan una amenaza menor para la raza humana? Creo que se puede argumentar que los convierte en una amenaza aún mayor.

Es una obviedad, desde luego, si entendemos la “facultad moral” en su sentido más amplio. A menos que se controle con cuidado, la ingeniería de IA puede representar serias amenazas. Supongamos, por ejemplo, que el cuidado de pacientes estuviera automatizado. Los errores inevitables que el juicio humano solucionaría podrían provocar una historia de terror. O imaginemos que apartamos a los humanos de la evaluación de amenazas determinadas por los sistemas automatizados de defensa antimisiles. Como nos indica un documento histórico estremecedor, sería el final de la civilización humana.

A los organismos reguladores y las fuerzas del orden en Europa les preocupa la expansión de ChatGPT y acaba de presentarse un instrumento legislativo de la Unión Europea que trata de lidiar con la IA mediante la clasificación de dichas herramientas de acuerdo con el nivel de riesgo que entrañen. ¿Está de acuerdo con los que consideran que ChatGPT supone una amenaza pública grave? Por otra parte, ¿cree realmente que el futuro desarrollo de herramientas de IA puede detenerse hasta introducir salvaguardias?

Comprendo perfectamente los esfuerzos de quienes intentan controlar las amenazas que supone la tecnología avanzada, también en este caso. Sin embargo, soy escéptico acerca de la posibilidad de llevarlo a cabo. Me temo que la caja de Pandora ya está abierta. Los actores maliciosos –institucionales o particulares– seguramente encuentren las vías para eludir las salvaguardias. Aunque estos temores, por supuesto, no son motivo para no intentarlo ni para bajar la guardia. 

--------------------------

Este artículo fue publicado originalmente en Common Dreams.

Traducción de Ana González Hortelano.

La Inteligencia Artificial (IA) se está expandiendo por el mundo. Está transformando todos los ámbitos de la vida y, en el proceso, plantea importantes cuestiones éticas para la sociedad y el futuro de la humanidad. ChatGPT, que se está haciendo con las redes sociales, es un chatbot de IA desarrollado por OpenAI....

Este artículo es exclusivo para las personas suscritas a CTXT. Puedes suscribirte aquí

Autor >

C. J. Polychroniou (Common Dreams)

Suscríbete a CTXT

Orgullosas
de llegar tarde
a las últimas noticias

Gracias a tu suscripción podemos ejercer un periodismo público y en libertad.
¿Quieres suscribirte a CTXT por solo 6 euros al mes? Pulsa aquí

Artículos relacionados >

1 comentario(s)

¿Quieres decir algo? + Déjanos un comentario

  1. Marcoafrika

    Excelente. Cierto que podemos temer la IA o sentirla como amenaza, lo mismo que podríamos temer cualquier otro descubrimiento tecnológico debido a la IN (Inteligencia natural) porque a la postre siempre podemos descubrir e inventar nuevas herramientas que operamos según intereses momentáneos: para crear o para destruir. No pienso que la IA sea tan decisiva en la conquista o la destrucción de nuestra felicidad. Es una herramienta tecnológica más, capaz de aniquilarnos o de procurarnos un nivel de vida, no exactamente superior, sino más confortable y que nos proporciones una mayor felicidad, o más duradera o más armónica. Siempre resulta difícil saber que entiende el animal humano por felicidad. La IA no es más que un producto de nuestra IN y la inteligencia en general y por complicado que pueda parecernos, no es más que un proceso característico de todos los seres vivos, incluyéndonos, pero eso no nos hace ocupar ninguna posición preponderante en nuestra biosfera, a no ser que entendamos como preponderante la capacidad de destruir cualquier rastro de vida y por ende, de inteligencia. Por cierto, algo difícil incluso para el brutal ser humano.

    Hace 1 año

Deja un comentario


Los comentarios solo están habilitados para las personas suscritas a CTXT. Puedes suscribirte aquí