Google advierte a sus empleados que no usen código generado por su chatbot Bard AI

Parece que las compañías creadoras de chatbots de AI y modelos grandes de lenguaje no acaban de fiarse del todo de ellos. Ni de los desarrollados por otras compañías, ni de los suyos propios. Google es uno de ellos, y ha dejado claro que no se fía con una advertencia a sus empleados de que no introduzcan sus datos y materiales confidenciales en chatbots de IA, por motivos de seguridad. También ha señalado a sus ingenieros que eviten utilizar de manera directa código generado a través de estos chatbots. Y si, esta advertencia incluye a su propio chatbot, Bard AI.

Según Reuters, desde Google han confirmado las medidas, y han señalado que Bard es capaz de hacer sugerencias de código que no son adecuadas, aunque en general sirve de ayuda a los programadores. Aparte de esto, los de Mountain View han prometido que serán transparentes en lo que respecta a las limitaciones de su tecnología.

Los chatbots, entre los que están Bard y ChatGPT, son programas que escriben textos y participan en conversaciones y que simulan un discurso parecido al de un humano. Utilizan IA generativa para sus conversaciones y responder a preguntas y cuestiones que los humanos les suministran a través de texto.

Entre las principales preocupaciones sobre la seguridad y la privacidad, que se unen a las dudas sobre que en muchos casos estos chats puedan generar respuestas coherentes, exactas y ciertas; está el hecho de que los humanos pueden leer los chats, y que una IA parecida a ellos podría reproducir los datos que ha almacenado durante su entrenamiento, lo que llegaría a un riesgo de filtraciones. Por eso Google quiere evitar daños, incluso del propio software que ha desarrollado para hacer la competencia a ChatGPT:

Por otro lado, la precaución de Google pone de manifiesto algo que se está convirtiendo en un nuevo estándar de seguridad en todo tipo de empresas y organizaciones: advertir a su plantilla sobre el uso de estos programas de chat, que están disponibles para el público en general. Google no es la única empresa que ha tomado medidas con lo que su plantilla comparte con los chatbots de IA. También lo han hecho, entre otras, Samsung, Amazon y el Deutsche Bank.

En cuanto al lanzamiento de Bard en la UE, Google ha asegurado que está hablando con la Comisión de protección de datos de Irlanda sobre ello, y que está respondiendo a las preguntas de las autoridades reguladoras para poder prepararlo de manera adecuada.