Cada documento de oferta pública inicial (IPO) incluye una sección que enumera diversos factores de riesgo que pueden hacer que sus acciones no sean una buena compra. Muchos de estos son advertencias estándar sobre el rendimiento financiero o sobre guerras y desastres naturales. Sin embargo, algunos son más específicos para la empresa.
En el caso de ServiceTitan, una startup de servicios en la nube que presentó documentos públicos para su IPO ante la SEC el lunes, estamos viendo el surgimiento de una nueva advertencia estándar: los modelos de lenguaje (LLMs) que ayudan a hacer crecer el negocio también podrían causar daños. ServiceTitan incluyó un extenso factor de riesgo de 1,150 palabras sobre cómo el uso de inteligencia artificial (IA), específicamente la IA generativa, podría afectar negativamente su negocio.
La empresa advirtió que el comportamiento “alucinado” de los LLMs podría generar información “inexacta” y comportamientos “discriminatorios”; que sus LLMs podrían infringir derechos de autor o propiedad intelectual de otros; que el uso de LLMs implica exponer más datos a posibles hackeos y daños; y que, si no puede obtener suficientes datos, podría no ser capaz de seguir ofreciendo productos de IA o desarrollar nuevos.
Además, ServiceTitan advierte que sus empleados o contratistas podrían compartir accidentalmente datos privados de sus clientes con sistemas de terceros, lo que podría llevar a brechas de seguridad o al uso de esos datos para entrenar sus modelos. También se señala que el uso de IA podría enfrentar problemas sociales y éticos en el futuro, o que regulaciones futuras podrían costarle dinero.
ServiceTitan teme no poder contratar a los expertos en IA que necesita para sus productos y, aunque lo logre, que ese talento sea costoso. La empresa también advierte que sus productos de IA dependen de servicios de terceros que no controla, mencionando específicamente a Microsoft y OpenAI. Por lo tanto, si estos servicios se vuelven inaccesibles o tienen problemas, eso también representa un riesgo.
Estas advertencias son interesantes porque ServiceTitan opera en la intersección de las industrias que se espera que dominen la IA generativa, especialmente los agentes de IA impulsados por LLM. ServiceTitan ofrece software para empresas del sector de servicios en campo, principalmente pequeñas empresas como contratistas de construcción, profesionales de HVAC y jardinería. Su software realiza funciones como marketing, gestión de relaciones con clientes, soporte al cliente y contabilidad.
Los agentes de IA están avanzando rápidamente hacia todo lo relacionado con ventas, marketing y gestión de relaciones con clientes (CRM). De hecho, el CEO de Salesforce, Marc Benioff, mencionó que su empresa podría tener mil millones de agentes de IA trabajando en las empresas de sus clientes en un año. ServiceTitan ha estado ofreciendo servicios impulsados por IA desde al menos 2023, bajo el nombre de Titan Intelligence. En octubre, también lanzó un conjunto de agentes de IA para ventas, servicio al cliente y centros de llamadas.
Sin embargo, los LLMs fueron diseñados para estudiar palabras, imágenes y datos, creando sus propias versiones de las cosas, es decir, fueron diseñados para inventar. Los científicos de OpenAI están trabajando para alcanzar una inteligencia general que imite la capacidad humana de inferir, lo que significa que están desarrollando IA que esperan sea aún más creativa.
Es cierto que la fiabilidad de los LLMs para uso empresarial es un problema que debería resolverse con el tiempo, a medida que más empresas se especialicen en agentes donde la fiabilidad, y no la creatividad, sea esencial. Pero vale la pena señalar que aquellos que están vendiendo bots de IA hoy en día están expresando en su lenguaje legal lo que muchos piensan en voz baja: en esta etapa temprana, la adopción de IA podría crear tantos problemas como los que resuelve.
