LA FACILIDAD EN QUE LA INTELIGENCIA ARTIFICIAL SE EQUIVOQUE
La inteligencia artificial se ha vuelto parte de nuestro dia a dia casi sin darnos cuenta. La usamos para buscar información, para organizar tareas, para traducir textos… incluso en ámbitos tan delicados como la salud o la justicia. Y aunque es una herramienta útil, también tiene riesgos que a veces pasan desapercibidos hasta que nos tocan de cerca.
HISTORIAS QUE DEMUESTRAN POR QUÉ LA IA NECESITA SUPERVISIÓN HUMANA
Por ejemplo tenemos el claro ejemplo de una compañera, que fue al hospital por algo no tan grave hasta que lo que vio sí que era grave de verdad, ya que cuando le dieron su informe al médico el que lo hizo se dio cuenta de que algo no cuadraba, los datos no eran suyos, tenía otro historial, el nombre de otra persona, no sabemos si fue error del que hizo el informe, fallo del sistema o ambas, pero lo cierto es que un simple descuido puede generar un problema serio. Y en un entorno donde la IA participa cada vez más en la gestión de datos, un error así puede multiplicarse sin que nadie se de cuenta a tiempo
Otro caso que llamó también la atención ocurrió en Canarias. Un abogado presentó un recurso ante el Tribunal Superior de Justicia de Canarias con varias sentencias citas como apoyo. Todo iba normal hasta que el tribunal revisó esas sentencias ya que ninguna existía.
Los números eran inventados, no correspondian las fechas e incluso se mencionan informes que jamás habían sido emitidos
En total, 48 sentencias falsas, generadas por la inteligencia artificial. El abogado fue sancionado con 420 euros y el tribunal remitió los antecedentes al Colegio de Abogados para evaluar posibles sanciones disciplinarias adicionales. La IA puede parecer que dice la verdad pero a veces está totalmente equivocada, y si un profesional de derecho puede caer en esto, cualquiera podría hacerlo.
Y muchos más casos con los que tiene que ver con la IA.
Y ya un ejemplo que hemos vivido también de cerca que lo vivimos en el despacho. Un cliente entró totalmente convencido de que tenía la razón en un asunto de una vivienda familiar . Venía con toda la información que había buscado en casa con ayuda de la inteligencia artificial. Según él, ya lo tenía todo claro: La ley decía exactamente lo que necesitaba que dijera y estaba seguro de que su postura era la correcta. Nuestra compañera, con paciencia, empezó a explicarle la normativa real, enseñándole los artículos, las resoluciones y los criterios que sí existen de verdad, le fue aclarando cada punto, paso a paso, para que entendiera por qué lo que había leído no era verdad. Incluso le mostró cómo funciona el MASC, cómo se aplican los criterios de mediación y qué límites tiene cada parte en un conflicto de este tipo.
Pero negaba lo que veía escrito delante de él y repetía que ¨la IA le había dicho otra cosa¨. Llegó un momento en el que de tanto repetirle las cosas al cliente, al final se levantó dijo que se fiaba más de lo que había visto en internet y se marchó sin querer escuchar nada.
Una situación que deja claro que, aunque la IA puede ser una herramienta útil, también puede generar una falsa sensación de seguridad, por eso es mejor dejarse guiar por quienes trabajan cada día con la ley y sobre su profesionalidad y no por un robot que te puede decir algo relacionado pero al igual no tiene nada que ver con tu tema.
LO BUENO Y LO MALO DE LA INTELIGENCIA ARTIFICIAL
Empezando por lo bueno de la IA puede ser muy útil para ahorrar tiempo, ya que analiza grandes cantidades de datos en cuestión de segundos y te puede ayudar en ámbitos como la medicina entre otras. También mejora procesos en empresas y servicios públicos, haciendo que muchas tareas sean más rápidas y eficientes.
La IA también puede correr riesgo, ya que puede equivocarse con datos sensibles, inventarse información crucial y poner en riesgo la privacidad. Además, puede generar desinformación y llevarnos a confiar demasiado en ella sin verificar lo que nos ofrece.
La inteligencia artificial puede volverse problemática cuando se usa para actividades que cruzan la línea de lo legal, como crear ¨deep fakes¨para engañar a otras personas, manipular información con fines fraudulentos, vulnerar la privacidad recopilando datos sin permiso o optimizar ataques informáticos. También puede facilitar delitos como la suplantación de identidad, el robo de propiedad intelectual o la difusión masiva de desinformación. Aunque la tecnología en sí no es ¨mala¨, su uso irresponsable o malintencionado puede causar daños reales, y por eso muchos países están desarrollando leyes para regular y proteger a las personas. En el fondo la clave está en recordar que la IA es una herramienta poderosa que necesita la supervisión humana, transparencia y límites claros para evitar que se convierta en un peligro que se nos vaya a ir de las manos.
En conclusión la IA es una herramienta útil, pero también nos recuerda que no todo puede dejarse en manos de un sistema. Casos como el del médico o el abogado, muestran que, aunque la tecnología avance, seguimos revisando y asegurándonos siempre teniendo el sentido común y la IA puede ayudarnos si pero siempre usandola con cabeza y con cuidado.
Si tienes un problema no consultes a la IA mandanos un correo o llamanos:
T: 622 506 507 / 976 236 573
E: estheribaneztormez@abogadogranvia.es