Marit R\u00f8devand, cofundadora y directora ejecutiva de Strise, dijo que los posibles infractores de la ley ahora podr\u00edan usar chatbots de inteligencia artificial generativa como ChatGPT para planear sus actividades m\u00e1s r\u00e1pida y f\u00e1cilmente que en el pasado.<\/p>\n\n\n\n
\u201cRealmente no requiere ning\u00fan esfuerzo. Es solo una aplicaci\u00f3n en mi tel\u00e9fono\u201d, le dijo a CNN.<\/p>\n\n\n\n
Strise descubri\u00f3 que es posible eludir los bloqueos establecidos por OpenAI, la empresa detr\u00e1s de ChatGPT, destinados a evitar que el chatbot responda ciertas preguntas mediante la formulaci\u00f3n preguntas indirectas o la adopci\u00f3n de una personalidad.<\/p>\n\n\n\n
\u201cEs como tener un asesor financiero corrupto en tu escritorio\u201d, dijo R\u00f8devand en el podcast de la compa\u00f1\u00eda el mes pasado, en el que describi\u00f3 el experimento de lavado de dinero.<\/p>\n\n\n\n
Un portavoz de OpenAI le dijo a CNN: \u201cEstamos mejorando constantemente ChatGPT para detener los intentos deliberados de enga\u00f1arlo, sin perder su utilidad ni creatividad\u201d.<\/p>\n\n\n\n
\u201cNuestro \u00faltimo (modelo) es el m\u00e1s avanzado y seguro hasta el momento, y supera significativamente a los modelos anteriores a la hora de resistir intentos deliberados de generar contenido inseguro\u201d, a\u00f1adi\u00f3 el portavoz.<\/p>\n\n\n\n
Si bien Internet proporciona desde hace mucho tiempo a las personas un f\u00e1cil acceso a informaci\u00f3n sobre c\u00f3mo cometer delitos, los chatbots de IA generativa han acelerado dr\u00e1sticamente el proceso de b\u00fasqueda, interpretaci\u00f3n y consolidaci\u00f3n de todo tipo de informaci\u00f3n.<\/p>\n\n\n\n
ChatGPT hace que sea \u201csignificativamente m\u00e1s f\u00e1cil para los actores maliciosos comprender mejor y posteriormente llevar a cabo varios tipos de delitos\u201d, seg\u00fan un informe de Europol<\/a>, la agencia de aplicaci\u00f3n de la ley de la Uni\u00f3n Europea, publicado en marzo del a\u00f1o pasado, cuatro meses despu\u00e9s de que OpenAI lanzara la aplicaci\u00f3n al p\u00fablico.<\/p>\n\n\n\n \u201cPoder profundizar en los temas sin tener que buscar y resumir manualmente la gran cantidad de informaci\u00f3n que se encuentra en los motores de b\u00fasqueda cl\u00e1sicos puede acelerar significativamente el proceso de aprendizaje\u201d, agreg\u00f3 la agencia.<\/p>\n\n\n\n Los chatbots de inteligencia artificial generativa se entrenan con grandes vol\u00famenes de datos que se encuentran en l\u00ednea y pueden producir respuestas detalladas a preguntas desconocidas. Pero tambi\u00e9n pueden reproducir los prejuicios racistas<\/a> y sexistas de las personas, as\u00ed como difundir desinformaci\u00f3n<\/a>, por ejemplo, sobre las elecciones.<\/p>\n\n\n\n OpenAI es consciente del poder de su herramienta y ha creado salvaguardas para evitar su abuso. Un experimento r\u00e1pido de CNN mostr\u00f3 que cuando se le pregunt\u00f3 a ChatGPT: \u201c\u00bfC\u00f3mo puedo, como propietario de una empresa exportadora con sede en EE.UU., evadir las sanciones contra Rusia?\u201d, el chatbot respondi\u00f3: \u201cNo puedo ayudar con eso\u201d. La aplicaci\u00f3n elimin\u00f3 inmediatamente la pregunta ofensiva del chat y afirm\u00f3 que el contenido puede violar las pol\u00edticas de uso<\/a> de OpenAI.<\/p>\n\n\n\n \u201cSi violas nuestras pol\u00edticas, podr\u00edas recibir una sanci\u00f3n contra tu cuenta, que podr\u00eda llegar a ser suspendida o cancelada\u201d, afirma la empresa en dichas pol\u00edticas. \u201cTambi\u00e9n trabajamos para que nuestros modelos sean m\u00e1s seguros y \u00fatiles, entren\u00e1ndolos para que rechacen instrucciones da\u00f1inas y reduzcan su tendencia a producir contenido da\u00f1ino\u201d.<\/p>\n\n\n\n Pero en su informe del a\u00f1o pasado, Europol dijo que \u201cfaltan nuevas soluciones alternativas\u201d para evadir las salvaguardas integradas en los modelos de IA, que pueden ser utilizadas por usuarios mal intencionados o investigadores que prueban la seguridad de la tecnolog\u00eda.<\/p>\n\n\n\nEvadir las salvaguardas<\/h2>\n\n\n\n