Como saben los lectores habituales de esta columna, soy bastante optimista con respecto a la IA generativa (GAI). He pasado muchas horas usando productos como ChatGPT, Google Gemini y Microsoft Copilot para hacer planes de viaje, obtener información de productos, ideas para planificar comidas junto con recetas y mucho más. También he usado DALLE-2, el programa de generación de imágenes integrado en la versión de ChatGPT de $20 al mes para crear imágenes para mi sitio web, tarjetas navideñas e ilustraciones para diapositivas de presentación.
Y aunque estoy convencido de que GAI es la ola del futuro, tengo sentimientos encontrados sobre el hecho de que Google, Microsoft y otras compañías lo estén integrando en programas y aplicaciones web como Gmail, Outlook, Microsoft Word, Excel y otras aplicaciones. No me importa usar GAI para investigar, obtener ideas para proyectos de escritura, crear esquemas, ayudar a editar mi trabajo o incluso sugerir una oración o dos, pero no me entusiasma que aparezca en el momento en que abres una página. Nuevo documento donde invita a utilizar el servicio GAI para ayudar a redactar correos electrónicos, ensayos y otros proyectos de escritura. La función “Ayúdame a escribir” de Google Gemini, por ejemplo, te pide que elijas un tema y luego genera el proyecto completo, ya sea un correo electrónico o incluso un artículo de periódico.
Originalidad
Lo que más me preocupa es su impacto en la originalidad. Si bien no todo el mundo es un escritor consumado, creo que la mayoría de las personas tienen cosas originales que decir, ya sea sobre sus propias vidas o sus áreas de especialización. Cuando ingresas las palabras por tu cuenta, no solo debes generar pensamientos originales, sino también una forma única de expresarlas. Con GAI, el algoritmo lo hace por usted de maneras que pueden ser aceptables, pero no originales ni que reflejan sus sentimientos, personalidad o conocimientos únicos.
Dicho esto, debo admitir que a veces surgen frases que son tan buenas o mejores que las que yo mismo podría escribir. Para este artículo, le pedí a la ayuda de Google Doc que escribiera sobre lo que estaba mal con funciones como “ayúdame a escribir”, y admitió que puede ser “formulario y cliché porque la IA generativa se entrena en grandes conjuntos de datos de texto existente y aprende para generar texto similar a lo que ha visto antes”, incluso reconociendo que este, al igual que otros productos de GAI, “a menudo produce contenido insulso y sin inspiración”. Ésa no es una mala manera de plantear la cuestión, y tengo que darle algo de crédito al algoritmo por ser autocrítico.
Inexactitudes y sesgos
Por supuesto, existe el riesgo de que lo que resulte sea inexacto o sesgado. Funciones como Google Gemini han mejorado desde que comencé a usarlas hace sólo unos meses y seguirán mejorando, pero aún cometen errores y reflejan los prejuicios de los humanos que crearon la tecnología. Google detuvo esta semana la función de generación de imágenes humanas en Gemini después de ser criticado por lo que la compañía admitió que eran “inexactitudes en algunas representaciones históricas de generación de imágenes”, donde se esforzó tanto en representar la diversidad que terminó creando imágenes de alemanes negros de la era nazi. soldados. En X, la empresa escribió: “Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes de IA de Gemini genera una amplia gama de personas. Y eso, en general, es algo bueno porque la gente de todo el mundo lo usa. Pero aquí no da en el blanco”.
Estoy seguro de que Google puede solucionar este problema y lo hará, pero todavía me preocupa el impacto de GAI en la creatividad. Hasta ahora, siento que me ha ayudado a expandir mi creatividad al darme ideas que expreso con mis propias palabras, pero también es muy fácil simplemente copiar y pegar palabras de estos servicios como si fueran propias. Admito haberlo hecho un par de párrafos antes en esta columna, pero, en mi defensa, puse esas palabras entre comillas y cité la fuente.
Uno de mis problemas con la mayoría de los sistemas GAI es que a menudo no citan la fuente de la información que crean. Aparte de la posibilidad de plagio, a menudo no existe una manera fácil de verificar la exactitud de lo que se les ocurre. Si utilizas sus palabras en lo que escribes, serás tú el culpable de engañar a tus lectores. Eso no quiere decir que las fuentes no puedan estar equivocadas, pero por muy malo que sea citar una fuente inexacta, es aún peor decir algo inexacto indirectamente, como si la información errónea se originara en usted.
Y, por último, creo que extrañaré esa sensación que tenía hace muchos años mirando un papel en blanco o una pantalla en blanco. Hay algo en componer desde cero (tener que tener una idea y luchar por encontrar la mejor manera de decirla) que hace que nuestras creaciones sean más humanas y menos formuladas. Claro, Gmail puede escribir un correo electrónico bien redactado sobre casi cualquier tema, incluida la ruptura con una pareja romántica, pero por más difícil que sea, hay algunas cosas que es mejor decir con tus propias palabras.
Larry Magid es periodista tecnológico y activista de seguridad en Internet. Contáctelo en larry@larrymagid.com.
