Por muitos anos Custos para usar serviços “gratuitos” Google, Facebook, microsofte outras grandes empresas de tecnologia estão entregando seus dados. Transferir sua vida para a nuvem e usar tecnologia gratuita é conveniente, mas também coloca suas informações pessoais nas mãos de corporações gigantes que buscam monetizá-las. Agora, A próxima onda de IA generativa Os sistemas podem exigir mais acesso aos seus dados do que nunca.
Nos últimos dois anos, surgiram ferramentas generativas de IA, incluindo: OpenAIde Bate-papo GPT e do Google Gêmeos– Indo além dos chatbots relativamente simples apenas de texto que as empresas lançaram inicialmente. Em vez disso, a grande IA está cada vez mais sendo construída e impulsionada para implantação. Agentes e “assistentes” Prometemos agir em seu nome e concluir a tarefa. problema? Para tirar o máximo proveito deles, você precisa conceder-lhes acesso aos seus sistemas e dados. Embora grande parte da controvérsia inicial em torno dos modelos de linguagem em larga escala (LLMs) tenha sido a cópia flagrante de dados protegidos por direitos autorais on-line, o acesso a dados pessoais por agentes de IA poderia levantar muitas questões novas.
“Para que os agentes de IA sejam totalmente funcionais e capazes de acessar aplicativos, eles geralmente precisam de acesso ao sistema operacional, ou nível de sistema operacional, do dispositivo em que estão sendo executados”, disse Harry Farmer, cientista sênior de pesquisa do Instituto Ada Lovelace. Impacto do assistente de IA E descobriu-se que poderiam representar uma “ameaça significativa” à segurança cibernética e à privacidade. A personalização de chatbots e assistentes pode envolver trocas de dados, disse Farmer. “Para que tudo isso funcione, precisamos de uma quantidade significativa de informações sobre você”, diz ele.
Embora não exista uma definição estrita do que realmente é um agente de IA, muitas vezes é melhor considerá-lo como um determinado sistema de IA generativo ou LLM. algum grau de autonomia. Atualmente inclui um agente ou assistente Navegador de IAcontrole seu dispositivo para navegar na web, reservar voos, pesquisar e muito mais. Adicionar item ao carrinho de compras. Algumas pessoas podem concluir tarefas como: dezenas de de etapas individuais.
Os atuais agentes de IA têm falhas; muitas vezes não pode ser concluído tarefa eles estão determinados a fazerAs empresas de tecnologia apostam que os sistemas irão melhorar fundamentalmente. mudar À medida que milhões de pessoas se tornam mais capazes, os seus empregos aumentam. Uma parte significativa da sua utilidade provavelmente vem do acesso aos dados. Portanto, se você deseja um sistema que possa fornecer horários e tarefas, você precisa de acesso ao seu calendário, mensagens, e-mail, etc.
Alguns dos produtos e capacidades de IA mais avançados oferecem uma ideia de quanto acesso podem fornecer a agentes e sistemas. Certos agentes desenvolvidos para empresas são leia o códigoe-mail, banco de dadosmensagens do Slack, arquivos armazenados no Google Drive e muito mais. O polêmico recall da Microsoft O produto faz capturas de tela da sua área de trabalho a cada poucos segundos, para que você possa pesquisar tudo o que faz no seu dispositivo. O Tinder criou recursos de IA que incluem: Pesquisar a partir de fotos no seu celular para “entender melhor” os “interesses e personalidades” dos seus usuários.
Carissa Bellis, autora e professora associada da Universidade de Oxford, afirma que, na maioria dos casos, os consumidores não têm uma forma real de verificar se as empresas de IA e de tecnologia estão a tratar os seus dados da forma que afirmam. “Essas empresas são muito promíscuas com seus dados”, disse Bellis. “Sabemos que eles realmente não respeitam a privacidade.”
