Post

¿De verdad hemos perdido o vamos a perder el control sobre la IA? ¿O es que nunca lo tuvimos y es sólo una minoría enriquecida la que siempre ha controlado y concentrado el poder de esta nueva tecnología? www.eldiario.es/opinion/zona...

eldiario.es¿Hemos perdido el control sobre la IA?Hay algo extraño en que los ingenieros de la IA sean los que anuncien que puede matarnos. Salvo algunos terroristas, nadie sale públicamente a decir que está en condiciones de matarnos a todos. Esa di...

2 reposts14 likes

Alberto, esto es totalmente incorrecto! Hay muchísima investigación sobre cómo los modelos tienen capacidades emergentes que en las fases de entrenamiento no se planeaban o directamente se trataban de prohibir. La idea más sencilla de entender es que los mismos conocimientos de química que

permiten a los modelos estudiar el cáncer o investigar baterías, también son conocimientos que les permiten crear armas biológicas o químicas. Y hablar de que las redes neuronales están programadas de antemano es no tener ni idea de cómo funciona esta tecnología.

Vamos, estas ideas las incorporas en el texto, pero creo que llegas a conclusiones erroneas. Las empresas reconocen explicitamente que el problema no son los modelos, es el sistema de incentivos que las está animando a desplegarlos sin dedicar suficiente tiempo a entenderlos y controlarlos.