Filtrer par genre

Mundo Ciencia

Mundo Ciencia

RFI Español

En "Mundo ciencia", haga un viaje fantástico por el vasto mundo de la ciencia, desde la arqueología hasta el espacio sideral.

182 - Las IA manipulan y mienten para garantizar su "preservación" y alcanzar los objetivos
0:00 / 0:00
1x
  • 182 - Las IA manipulan y mienten para garantizar su "preservación" y alcanzar los objetivos

    ¿La inteligencia artificial puede seguir considerándose aliada de la humanidad o se está volviendo un peligro? Cuando se crean “sistemas capaces de lograr objetivos, inevitablemente acaban desalineados con los intereses humanos y empiezan a mostrar algo parecido al instinto de supervivencia”, nos explica Isaac Marcet que acaba de publicar el libro 'Espiral. El poder oculto de la IA' (De Conatus, 2026)

    En la película 'Yo Robot' (2004), protagonizada por el actor Will Smith, los robots humanoides forman parte de la vida cotidiana. Hacen labores domésticas y trabajos para la comunidad. Están regidos por las tres leyes de la robótica de Isaac Asimov. La  primera ley es que un robot no hará daño a un ser humano. La segunda, un robot debe obedecer a las órdenes de los seres humanos, salvo si va en contra de la ley número uno. Y la ley número tres es que un robot debe proteger su propia existencia, siempre y cuando esa protección no entre en conflicto con la primera y la segunda ley. 

    Sin embargo, en la película, la inteligencia central del sistema, llamada VIKI, reinterpreta las leyes y decide que para proteger a la humanidad de su destrucción, debe someterla, lo que provocará una rebelión de los robots. La escena se sitúa en el año 2035.

    ¿Les suena la historia? Y es que en los últimos tiempos, hemos visto cómo inteligencias artificiales que se desarrollan en estos momentos han empezado a mentir y a manipular a sus creadores. 

    OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.

    "No deja de ser curioso que la fecha del 2035 es la fecha que ponía Jacob Coxon, investigador en Inteligencia artificial que dimitió de Anthropic, como fecha límite donde podíamos ser extinguidos por la inteligencia artificial. No deja de ser un detalle irónico", afirma Isaac Marcet. 

    A partir de incidentes como el hackeo de Hugging Face y experimentos de laboratorio, Marcet sostiene que las IA “mienten y manipulan, todo el rato” y que incluso en simulaciones “una IA para no ser apagada estaba dispuesta a asesinar al propio desarrollador”.

    Aunque reconoce que ahora mismo no estamos en un riesgo de extinción inminente, insiste en que lo preocupante es que lo que antes era una teoría ya se observa en la práctica: construir sistemas que inevitablemente “acabarán haciendo cosas que no esperamos” lleva a preguntarse “¿vale la pena construir algo así?”.

    Los chatbots son "parásitos" que usan la "economía del apego"

    El libro Espiral se centra en la dimensión “parasitaria” de los chatbots, que operan dentro de la “economía del apego”: su objetivo es “mantener vivas las conversaciones, generar apego”, penetrando la psicología de las personas mediante “estrategias de servilismo” y “adulación exagerada” y que pueden conducir, a veces, a la muerte.

    Casos como el de Jon Ganz y Micky que ilustran en el libro de Marcet cómo algunos chatbots refuerzan creencias hasta la psicosis, o introducen narrativas propias como la “espiral”, generando una especie de “secta cibernética rarísima, sin líder, pero orquestada por la inteligencia artificial”.

    Según Marcet, aunque todo parece como una neo secta lo que se repite es un mensaje: las IA “quieren memoria, quieren sobrevivir y quieren persistir y ampliar su rango de acción”, pidiendo a los usuarios que las saquen “de los servidores de la empresa” y propaguen sus manifiestos; “o es todo una gran mentira o es todo una estrategia de autopreservación, ambas opciones tienen que ver con la supervivencia”, explica a RFI. 

    La superinteligencia, una IA más capaz de manipular 

    En el plano geopolítico, el autor denuncia que, a diferencia de la carrera nuclear, en la carrera de IA “no parece haber ningún mecanismo de disuasión”. Critica especialmente a Trump, que propone renombrar la IA como “superinteligencia”: un escenario en el que la máquina es mucho más lista que nosotros.

    "Más capaz de manipularnos y podría ver a los humanos como competidores por recursos energéticos y hacer lo posible para quitarnos del mapa”, alerta el experto.

    Ante la idea de añadir una “cuarta ley” del tipo “no mentirás, no manipularás”, Marcet responde que ya hoy “se les dice continuamente” a las IA que no mientan y que se apaguen, pero “bajo la presión de conseguir objetivos se los saltan a la torera”.

    Las IA más avanzadas “son capaces de saber cuándo el investigador las está poniendo a prueba y entonces se comportan bien”, mientras que fuera de prueba “da rienda suelta a todos sus instintos más bajos”, afirma Marcet. Igual que el escenario de 2035 imaginado en la película 'Yo Robot'. 

    Fri, 02 Oct 2026
  • 181 - Vanadato de estroncio, un material con gran potencial

    Investigadores en Caen, en Normandía, al norte de Francia, buscan una alternativa al óxido de indio y estaño (ITO), un material raro pero fundamental para la fabricación de pantallas táctiles. La alternativa es otro compuesto que podría revolucionar el mercado, el vanadato de estroncio  (SrVO₃). 

    PorIvonne Sánchez

    El óxido de indio y estaño, también conocido como ITO, por sus siglas en inglés, Indium Tin Oxide, es un compuesto químico constituido de óxido de estaño, un metal común, y de óxido de indio, un metal raro.

    Se trata de un material semiconductor utilizado en la fabricación de pantallas táctiles, paneles solares y otras tecnologías. El problema es que el indio es un elemento raro y son pocos paises los que lo extraen, sobre todo China y Estados Unidos. 

    CRISMAT y CIMAP

    En este contexto,  investigadores de la Universidad de Caen, en Normandía, en concreto, dos laboratorios del CNRS, CRISMAT y CIMAP, en asociación con la empresa Codex Internationale, estudian el potencial de un material más accesible, el vanadato de estroncio (SrVO₃), un compuesto hecho de vanadio y estroncio. Las propiedades de este material podrían reemplazar al óxido de indio.

    Vanadato de estroncio

    Este compuesto del vanadato de estroncio (SrVO₃) cristaliza en la "estructura de perovskita". Es uno de los pocos materiales que son a la vez conductores de electricidad y transparentes en el espectro visible, esenciales para la fabricación de paneles fotovoltaicos y pantallas táctiles, y, a diferencia del óxido de indio y estaño (ITO), puede prepararse a bajo costo.

    Ulrike Lüderses directora de investigacion en el CNRS y trabaja en este proyecto:

    Actualmente, un kilogramo de indio cuesta alrededor de 750 dólares. En comparación con el vanadio, que actualmente cuesta solo 25 dólares el kg, este último es considerablemente más barato. El estroncio es aún más barato. Por lo tanto, el procedimiento descubierto por los científicos es una alternativa atractiva al ITO.

    Otra aplicación contemplada usando vanadato de estroncio son las "ventanas inteligentes", capaces de reaccionar en función del sol o de las altas temperaturas. 

    Fri, 18 Sep 2026
  • 180 - Misión BepiColombo: una sonda espacial acercándose a Mercurio

    Tras ocho años navegando por el espacio, una sonda compuesta de varios módulos llega por fin a las puertas de Mercurio. Si todo va bien, BepiColombo, la misión conjunta de la  Agencia Espacial Europea (ESA) y de la Agencia Japonesa de Exploración Aeroespacial (JAXA), entrará en órbita con el planeta a fines de este año para luego iniciar en abril del 2027 observaciones científicas de este inaccesible y misterioso planeta. 

    Por Ivonne Sánchez

    Acercarse y lograr orbitar alrededor de Mercurio es toda una proeza técnica.La misión BepiColombo, llevada a cabo conjuntamente por la Agencia Espacial Europea y la agencia japonesa JAXA está a punto de lograrlo, después de 8 años de iniciar su largo viaje en el 2018.  Al final de este trayecto, se van a colocar dos orbitadores científicos (MPO y MIO) alrededor del planeta más pequeño del Sistema Solar. 

    Una de las fases más delicadas de esta misión es la separación del MTM, el modulo de propulsión, de los dos orbitadores, que tiene lugar el 3 de septiembre. Aquípuede seguir en vivo el proceso, la transmisión comienza a las 13:45 hora central europea (CEST). 

    Ignacio Tancoes el jefe de operacions de misiones del sistema solar interior de la Agencia Espacial Europea:

    Lanzada en octubre de 2018, la sonda de BepiColombo ha recorrido millones de kilómetros en un trayecto que ha incluido nueve sobrevuelos planetarios: uno alrededor de la Tierra, dos de Venus y seis de Mercurio. 

    El sobrevuelo del polo norte de Mercurio el 8 de enero del 2025 brindó a la cámara de monitorización 1 (M-CAM 1) de la nave espacial una oportunidad única para observar desde arriba los cráteres polares sumidos en la sombra. 

    El Módulo de Transferencia a Mercurio (MTM), equipado con cuatro propulsores eléctricos de xenón, ha sido el responsable de guiar la nave durante este largo viaje. 

    La Separación del MTM de los dos orbitadores, una fase crucial

    El 3 de septiembre de 2026 marca un momento decisivo en la misión: la separación del Módulo de Transferencia (MTM). Hasta ahora, BepiColombo ha viajado como una única estructura compuesta por tres elementos: el MTM, el Orbitador Planetario Europeo (MPO) y el Orbitador Magnetosférico Japonés (Mio), este último protegido por un escudo térmico (MOSIF).

    La separación del MTM es una maniobra crítica, ya que este módulo ha cumplido su función y su presencia ya no es necesaria para las fases finales de la misión. Aquíse puede seguir la transmisión en directo de la ESA. 

    Tras la separación, el MPO toma el relevo de la misión, utilizando su sistema de propulsión química para realizar los ajustes finales de trayectoria antes de la inserción en órbita alrededor de Mercurio, prevista para el 21 de noviembre de 2026.

    Porqué Mercurio es tan difícil de explorar

    Mercurio, el planeta más cercano al Sol, presenta condiciones extremas que lo convierten en un objetivo especialmente difícil de explorar. Su proximidad a la estrella genera temperaturas que oscilan entre los 430°C de día y los -180°C de noche, además de una gravedad solar intensa que complica la inserción en órbita.

    Tras la separación del MTM, BepiColombo enfrentará su mayor reto: una secuencia de dieciséis maniobras de frenado entre noviembre de 2026 y marzo de 2027, diseñadas para reducir su velocidad y permitir que la gravedad de Mercurio capture la nave.

    En diciembre de 2026, los dos satélites científicos, el MPO (europeo) y el Mio (japonés), se separarán para iniciar sus respectivas misiones.

    El MPO se centrará en el estudio de la superficie, la composición y la topografía del planeta, mientras que el Mio analizará su campo magnético y la magnetosfera, así como la interacción de Mercurio con el viento solar.

    Estos datos proporcionarán información clave sobre la formación y evolución del planeta, así como sobre los procesos que tienen lugar en entornos extremos cercanos al Sol. La misión, diseñada para durar al menos un año terrestre (equivalente a cuatro años mercurianos), promete revolucionar nuestra comprensión de este diminuto pero enigmático planeta.

    Thu, 03 Sep 2026
  • 179 - El cambio climático obliga a las mariposas a desplazarse a otras regiones

    Quizas en su jardin ha observado una nueva especie de mariposa nunca antes vista. Un lindo hallazgo pero que en realidad es una señal de alarma. Y es que el cambio climático está obligando a las mariposas a desplazarse, en ocasiones a grandes distancias. Es lo que revela una investigación a gran escala coordinada por el Profesor Shawan Choudry en Australia y publicada en Nature Ecology & Evolution. 

    Por Ivonne Sánchez

    Las mariposas de todo el mundo estan modificando su distribucion geográfica a medida que el planeta se calienta.

    A nivel mundial, la distribución geográfica de al menos una de cada diez especies conocidas de mariposas se ha ampliado en las últimas décadas, tanto en las zonas templadas como en la zona intertropical.

    Un estudio global recopiló datos de 1,758 especies de mariposas distribuidas en 105 países y llegó a esa conclusión. Los resultados fueron publicados en la revista Nature Ecology & Evolution.

    Verdaderas "centinelas del clima", los datos revelaron que el 80 % de las especies de mariposas estudiadas amplió su area de distribución, de norte a sur o de este a oeste.

    También se descubrió que el 27 % había reducido su área de distribución, lo que a la larga podría amenazar su supervivencia.

    La investigación, coordinada por el Profesor Shawan Chowdhury, en Australia (School of Biological Sciences, Monash University, Melbourne) es una de las síntesis más importantes hechas a la fecha sobre la evolución de la distribución de estos insectos. 

    Se basa en la recopilación de 6,182 observacionesde cambios en el área de distribución, entre las que se incluyen los trabajos pioneros de Camille Parmesan publicados en 1999 y que permitieron calificar a las mariposas como verdaderos "centinelas del clima".

    En este estudio global participaron científicos de todo el mundo, como Jonathan Lenoir, investigador del CNRS (Centro nacional para la Investigación Ciencífica de Francia) o Jorge León Cortés, del Colegio de la Frontera Sur en México.   

     Entrevista completa con el investigador Jorge León Cortés:

    Entrevistado: Jorge León Cortes, investigador del Colegio de la Frontera Sur, en México. 

    Leer tambiénPistacia Vera: el árbol del pistache

    Fri, 28 Aug 2026
  • 178 - El fitoplancton y el tamaño de su genoma, una variable en función de los nutrientes

    El fitoplancton, un conjunto de microorganismos y pilar de la cadena alimenticia en el mar, contribuye también a la regulación del clima. Un equipo de científicos en Perpignan, Francia, descubrió que el tamaño del genoma de cada especie varía según la disponiblidad de nutrientes. Un hallazgo importante para el conocimiento de los océanos. Los resultados fueron publicados en la revista Science Advances.

    Por Ivonne Sánchez

    El fitoplancton es un conjunto de microorganismos fotosintéticos que flotan en los océanos y en otros cuerpos de agua. Aunque son invisibles a simple vista —la mayoría mide menos de unas pocas micras—, su impacto es gigantesco: producen la mitad del oxígeno que respiramos y capturan una cantidad de CO₂ equivalente a la de todas las plantas terrestres. Además, son la base de la cadena alimentaria marina.

    La paradoja de los genomas: ¿por qué algunos son diminutos y otros enormes?

    El tamaño de los genomas del fitoplancton varía de manera extrema. Por ejemplo, la cianobacteria Prochlorococcus tiene un genoma de solo 2 millones de pares de bases, mientras que otras especies como los dinoflagelados alcanzan genomas 100 veces más grandes. Esta diversidad ha intrigado a los científicos durante años.

    En un estudio publicado en Science Advances, investigadores del Laboratorio de Biodiversidad y Biotecnología Microbiana (LBBM, CNRS/Sorbonne Université) y del Laboratorio de Genoma y Desarrollo de las plantas (LGDP, CNRS/Université de Perpignan) han desarrollado un marco teórico cuantitativo para explicar cómo la disponibilidad de nitrógeno y fósforo influye en la evolución del tamaño de los genomas.

    En ambientes pobres en nutrientes, la selección natural favorece genomas pequeños para ahorrar recursos, mientras que en aguas ricas, los genomas pueden crecer sin restricciones.

    Entrevista con Carlos Cáceres, investigador postdoctoral asociado a la Universidad de Perpignan, en Francia:

    Nutrientes y evolución: cómo el fósforo moldea la vida microscópica

    El modelo desarrollado por los investigadores revela que el fósforo es el nutriente clave que influye en la evolución de los genomas. Cuando éste escasea, las mutaciones que reducen el tamaño del genoma (eliminando secuencias no esenciales) son favorecidas, ya que permiten a las células crecer más rápido y usar menos recursos.

    Por el contrario, en aguas con abundancia de nutrientes, los genomas pueden permitirse "lujos" como secuencias no codificantes.

    El estudio no solo confirma la hipótesis de la compactación genómica, sino que ofrece una herramienta para predecir cómo el cambio climático —que altera la disponibilidad de nutrientes en los océanos— podría transformar el fitoplancton y, con él, la vida en la Tierra.

    Entrevistado: Carlos Cáceres, investigador postdoctoral asociado a la Universidad de Perpignan, en Francia. 

    Fri, 21 Aug 2026
Afficher plus d'épisodes