Ver todos los artículos
noticiasopiniónsin-humoia

Sin humo: el mismo buscador semántico con la cuarta parte de vectores

JG
Jacobo González Jaspe
|
Sin humo: el mismo buscador semántico con la cuarta parte de vectores Sin humo
Este artículo también está en inglés:No Hype: pooling-aware training slashes vector storage

Un modelo de búsqueda entrenado sabiendo que se agruparán sus vectores conserva el 97,8 % de su calidad con la cuarta parte de ellos. Para ti significa un índice mucho más pequeño en el mismo disco. Además: United Airlines cierra la puerta a los agentes de IA personales y Podqi pilla a ChatGPT, Gemini y Perplexity recomendando tiendas de riesgo.

Menos vectores no significan menos información

Ilustración generada con IA en nuestra máquina. Ilustración generada con IA en nuestra máquina.

Lo que pasó. El autor de un artículo en el blog de Hugging Face cuenta que, con pool_factor=4, cada documento se queda con cerca de una cuarta parte de sus vectores. Su modelo entrenado de forma normal conserva así el 94,6 % de su nDCG@10 en NanoBEIR. Con el entrenamiento consciente del agrupado, la retención sube al 97,8 % con el mismo almacenamiento.

Lo que pensamos. Esto nos gusta: es un ahorro con cifra del autor, no una promesa. Guardar la cuarta parte de vectores y conservar el 97,8 % es la diferencia entre un índice que cabe en tu máquina y uno que te obliga a alquilar otra.

Lo bueno. Se pierde muy poca calidad de búsqueda a cambio de un índice cuatro veces más pequeño.

Qué haces tú con esto. Si montas un buscador sobre tus documentos en local, empieza por la guía de IA local para developers.

United Airlines bloquea agentes de IA por seguridad

Ilustración generada con IA en nuestra máquina. Ilustración generada con IA en nuestra máquina.

Lo que pasó. United Airlines restringe el acceso a agentes y asistentes de IA personales de terceros no autorizados, según TechCrunch. La aerolínea avisa de que compartir las credenciales de la cuenta con esos asistentes puede exponer información sensible y provocar acciones no deseadas. También alega el riesgo de incumplir las normas federales de aviación que exigen que el check-in lo complete una persona. La semana anterior, Bank of America y otros bancos ya pidieron a sus clientes no dar sus contraseñas a asistentes de IA.

Lo que pensamos. Nos parece sensato. Un agente con tu contraseña es un desconocido con tu contraseña, por muy buena conversación que tenga, y ahora la aerolínea y el banco dicen lo mismo.

Lo bueno. Por fin una empresa explica el riesgo en lugar de esconderlo en la letra pequeña.

Qué haces tú con esto. Si tu equipo usa agentes, revisa qué cuentas tocan y repasa la EU AI Act: guía práctica para pymes españolas.

Los chatbots recomiendan tiendas de riesgo

Ilustración generada con IA en nuestra máquina. Ilustración generada con IA en nuestra máquina.

Lo que pasó. La firma de protección de propiedad intelectual Podqi preguntó a ChatGPT, Gemini y Perplexity por 151 marcas en dos tandas de pruebas en septiembre, cuenta The Verge. En 6.795 respuestas, los tres mostraron sitios de riesgo. Perplexity lo hizo en el 15 % de las respuestas, ChatGPT en el 8 % y Gemini en el 4 %. ChatGPT fue el que más avisó del peligro, en el 24 % de los casos.

Lo que pensamos. No compramos un enlace solo porque lo diga un chatbot. Si el mejor de los tres avisa solo en el 24 % de los casos, el resto del aviso te toca a ti.

Lo bueno. Con las marcas grandes, las respuestas con sitios de riesgo aparecen la mitad de veces.

Qué haces tú con esto. Antes de pagar en una tienda que te recomendó una IA, escribe tú la dirección de la marca en el navegador. Y si montas tu propio asistente, decide tú de dónde saca los enlaces: IA local para developers.

En una frase

El entrenamiento consciente del agrupado conserva el 97,8 % con la cuarta parte de vectores, así que leemos el método antes de comprar más disco.

Trabaja con nosotros

Si algo de esta columna encaja en tu empresa, con modelos que corren en tu hardware y no en la nube de otro, cuéntanos qué necesitas o mira cómo trabajamos en consultoría.

Diagrama
Compartir: LinkedIn X
Veredicto semanal

Recibe las guías nuevas antes que nadie

Suscríbete y te avisamos cuando publiquemos guías, plantillas y workflows nuevos. Un correo a la semana, sin spam.

Ya publicados: 101 guías y 25 plantillas. Todo gratis y sin registro.

Bonus: el kit de inicio de IA local en PDF al suscribirte
1x por semana Sin spam Cancela cuando quieras

Ver qué recibes