Video
Como controlar ferramentas não autorizadas e proteger a privacidade dos dados
Data Management,
AI,
Security & Compliance
Back to top
Como equilibrar inovação em IA, segurança e conformidade?
A IA avança mais rápido do que muitas empresas conseguem adaptar seus processos de segurança. Com a presença cada vez maior de agentes autônomos nas atividades diárias, os líderes de tecnologia enfrentam um desafio: como aproveitar os benefícios da IA sem perder o controle sobre os dados, a segurança e a conformidade?
Neste painel três especialistas discutem como adotar a IA de forma segura, com foco na proteção e na governança de dados. Daniel Stolf, Solutions Engineer da Perforce Delphix, conversa com Renato Augusto, gerente de Cibersegurança, e Igor Exposito, CISO, sobre os desafios das empresas de setores regulados para ampliar o uso da IA sem expor informações sensíveis.
O debate também aborda o crescimento do Shadow AI, que ocorre quando colaboradores utilizam ferramentas de inteligência artificial sem aprovação ou acompanhamento das equipes de TI e segurança. Com a IA cada vez mais acessível, controlar seu uso tornou-se uma prioridade para as organizações.
Conheça como o Delphix ajuda a simplificar a conformidade em IA
Adote a inteligência artificial sem comprometer a segurança e a privacidade dos dados. O Delphix ajuda sua empresa a proteger informações sensíveis e atender aos requisitos de conformidade, permitindo inovar com mais segurança. Entre em contato com a equipe Delphix e solicite uma demonstração.
Garanta a conformidade no uso da IA
Back to top
Transcrição completa
Olá, bom dia. Sejam bem vindos a TV Security, uma parceria com o security leaders e o nosso portal de notícias security report. Sejam muito bem vindos. Vocês vão perceber que nosso programa hoje está um pouquinho diferente. Nós estamos inaugurando um novo estúdio e aqui.
É a nossa proposta é trazer vários líderes da área de Cyber segurança, tecnologia da informação, os nossos parceiros para ótimos bate papos. Vamos falar aqui sobre esse cenário desafiador hoje de Cyber segurança. Vamos falar bastante das experiências e das práticas que tem sido utilizadas por esses líderes.
E também todo conhecimento e parceria que nós temos com toda a indústria que hoje colabora conosco nesse trabalho. Então convido vocês a ficarem atentos aí no nosso portal security leaders e também nas nossas mídias sociais, na nossa programação aqui na TV security. E hoje para iniciar e inaugurar o nosso estúdio, eu tenho aqui convidados que eu considero já amigos de jornada.
Nesse tempo todo que a gente tá aí na área de Cyber segurança, então quero agradecer muito a presença deles e vou apresentá Los aqui, né? Primeiro vou apresentar o talvez o que está mais tempo comigo nessa jornada que é o Renato Augusto. Renato é Cyber security manager de um grande banco de varejo, tem uma larga experiência na área, 20 anos 12 liderando times de Cyber e Infra, transformando gestão de de riscos em diferencial competitivo.
Unindo, adoro essa parte humildade intelectual a uma sólida entrega estratégica de resultados. Muito bom, bem-vindo Renato, ótimo ter você aqui, são alguns aninhos aí né, em que a gente tá compartilhando conhecimento de cib e segurança, né? Adoro praticar essa esse compartilhamento com todos, muito necessário hoje, né? Com certeza, com certeza, muito obrigado pelo convite, imagina eu que agradeço.
Aqui comigo o Igor exposito também um parceiro que já, né? De alguns anos para cá, vem colaborando aqui com a security líderes, com as nossas conversas, os nossos bate-papo. O Igor é siso, da Zurich in churence company, líder de tecnologia há 24 anos, é experiência em digital trust, Business transformation lidera agendas que impulsionam crescimento.
Fortalecem a confiança e gera um valor sustentável em ambientes voláteis, combinando tecnologia. Aqui é que está o desafio, segurança e a esse a aqui você deve ter colocado do ano passado para cá, né? E eu e muitos de nós, né? Primeiramente, muito obrigado, né? Gratidão por estar aqui nesse espaço, com pessoas bacanas, no ambiente seguro, onde a gente pode trocar conhecimentos, né? Dificuldades.
O que que o mercado vem fazendo e a gente aprendeu uns com os outros aqui, eu acho que é muito salutar quando a gente tem esse tipo de ambiente, né? Gostoso, descontraído, que a gente possa dividir um pouquinho da nosso repertório, da nossa experiência, é e também poder contar aí com a participação de vocês. Super ocupados, né? A agenda de Cyber não é fácil, então a gente agradece bastante poder contar com esses executivos aqui e quero apresentar também estreando na TV sequeiro, estreando comigo.
Como meu parceiro aqui, o nosso especialista, o Daniel Stolf, que é engenheiro de soluções da Delph, pioneira, inya, adorei já, porque assim então você vai ter muita coisa para contar muito antes dos agentes ele colocou aqui, então é pré agentes, é pré inteligência artificial, agêntica, né?
É, ele une modelos de raciocínio, cold, cold pra você também é algo que você tá bastante familiarizado, pelo que eu percebi, né? Líder de inovação data center e também a IA para ele eleva a produtividade de um engenheiro solo ao nível de Squad. Gostei muito dessa frase final aí, então bem-vindo e já fala um pouquinho pra gente aí, o que que quer dizer essa frasezinha final da sua Mini micro? Eu fiquei curiosa.
É aí ela remove Oo gargalo, né? Que é basicamente a quantidade de coisas que a gente consegue digitar, né? É basicamente isso, né. Consegue gerar centenas, milhares de linhas de código em poucos minutos, né? Coisa que se a gente conseguisse digitar tudo certo de uma vez, a gente não, não teria, não não conseguiria fazer naquele tempo, né? E.
E aí ela remove esse esse proput, né? Qual que é o pulo do gato aqui é você conseguir fazer com que ela produza algo correto, produtivo, né? E não slop, né? 111 programa que não funciona ou um negócio que né, só vai funcionar num contexto muito específico, mas que não vai escalar pra uma pra 11. Uso geral né? Então o segredo aqui tá em unir AA expertise, né? Daquilo da daquele objeto de trabalho pra pro qual você está desenvolvendo com.
Né 11 disciplina aqui para você conseguir desenvolver 111 produto mais bem acabado. Agora estofe quando você fala de ter essa relação com a inteligência artificial na era pré agentes, né? É, vamos já começar essa conversa e depois eu quero ouvir também nossos convidados. A gente realmente pode falar de era? A gente está vivendo uma Nova Era com os agentes? Eu Acredito que sim. Eu percebi bem cedo, assim é.
Não deve ter sido único, né? Então, modéstia a parte, é o potencial que que isso tinha, especialmente no contexto de desenvolvimento de software, né? É, então antes você não tinha os agentes, mas você tinha Oo prompt do gpt, do depsic, né? E você podia usar aquilo para simplesmente é. Hoje é chamado de rag, né? O retrievel argument Ed generation, né?
Você podia simplesmente pegar, construir o seu próprio contexto ali dentro do chat e pedir para ele gerar um código, e ele gerava e eventualmente aquela sessão IA se esgotar o tamanho do contexto. E daí você tinha que pegar e resumir tudo aquilo para você gerar novamente um contexto para você começar uma nova sessão para você continuar o desenvolvimento, né? É, e aí aquilo já era um aumento muito grande de produtividade. É, já era, porque já gerava uma quantidade de código, ou que seja um.
Um esqueleto pra um sistema assim que que levaria dias ou semanas pra pra uma pessoa fazer e aquilo lá era gerado quase que automaticamente, né? E hoje com agentes é isso aumentou ainda mais exponencialmente, né, porque você não precisa mais ficar e colando, né? É? E hoje ele faz praticamente tudo sozinho isso e aí vem bônus e ônus, né? Sim, com certeza, com certeza. Bom, eu comecei esquentando a nossa conversa aqui falando de AI de agentes.
E aí vocês podem estar se perguntando, bom, de novo a gente vai falar sobre esse tema. Esse tema tem vários aspectos, várias abordagens e qual é a nossa abordagem de hoje que vocês devem ter visto aí no nosso convite? Nós vamos falar de inovação sustentável. A gente vem usando essa expressão esse ano, desde o início da nossa caravana security liders e o que que a gente quer dizer com inovação sustentável? Usar. E a hoje é excelente, eu uso, você usa, todos estão usando.
E não tem nada de errado nisso. A questão é que quando você não se preocupa com a sustentabilidade dessa inovação, você pode encarar aí no nesse processo, nessa jornada, alguns desafios muito importantes. E a questão da segurança, que hoje não é mais proibitiva eSIM habilitadora, ela se torna muito desafiadora porque ela tem que estar no momento certo, na hora certa, para habilitar.
Então, Renato, essa mudança, né, que a gente começa a perceber que a gente já vem falando a bastante tempo. A segurança tem que ser habilitadora. Acho que nunca antes a gente teve um desafio de provar isso, de mostrar isso, porque antes, né, a gente tá falando aqui, o estofo, já puxou o assunto do desenvolvimento. Então antes a gente vinha falando bastante. Sempre a segurança vai design, ela tem que estar lá no momento certo.
Deve ser copser exatamente essa disciplina. E mesmo assim tinha desafio e continua tendo. Mas hoje isso se ampliou. Hoje as áreas de negócios também podem virar e todos que estão ali, desenvolvedores, além de usar inteligências artificiais generativas que eles eventualmente escolhem e não seguem a governança, eles também podem desenvolver.
Então, voltando para esse papel da segurança hoje, né? Hoje, mais do que nunca, ela tem que ser habilitadora. Como é que está sendo para você no seu ambiente financeiro? Essa mudança de paradigma da segurança é graça? É. Vou voltar um pouquinho a história, né? Há um tempo atrás é que acho que isso começou muito lá, na época de de imigração pra nuvem, né?
AA habilitação de AA segurança ser um componente de negócio e não apenas 11 área, né? Dentro de uma organização é nós da indústria financeira. Nós somos altamente regulados, né? Com com relação a diversos itens, né? Então é é na época da da da movimentação pra nuvem, né? É, já começou um movimento grande, principalmente na indústria financeira de.
A segurança ser um componente de negócio, né? E não apenas uma parte do processo de você tá entrando pra avaliar. Então essa essa mudança de paradigma começou atrás, né? E quando começou a entrar? AAEA, né? Como? Como um novo componente de de de negócio, de infraestrutura ou de tecnologia.
É, a indústria financeira já estava mais madura com relação a isso, né? Então é é hoje facilmente a gente já tem essa esse mindset, né, da segurança estar no processo desde a sua concepção, né, até o seu desenvolvimento. Já se pensa segurança, né? E a gente brinca, é, é internamente lá, né, que fala é, é are first, crowd first e a segurança também é security first, né?
Então é quando AIA começou se AAA ser ventilada no uso do setor financeiro, principalmente lá Na Na organização iotu, criou se um COE, né? Com multidisciplinas inclusive a segurança, para poder estabelecer regras e estabelecer visões de como utilizar essa nova tecnologia. Quando já foi criado esse co e esse modelo? Renato, porque a gente está falando de um processo.
Muito recente, né? Aham aí quando a gente tá falando dos agentes aham como stoff trouxe nesse cenário agente, né aham, quando que vocês já montaram esse modelo que Eu Acredito que seja multidisciplinar, né? Sim, não tem só segurança nele, só rapidamente, explica pra gente como é que é essa experiência, essa prática do banco?
Tá, em relação à inovação, tá? Quando começou AAA aparecer as empresas oferecendo principalmente as big techs, né? A Google, Microsoft começou a oferecer ferramenta de tecnologia de a pra fomentar negócio. O banco começou AA trabalhar esse tema internamente. Falou assim, poxa, a gente vai ter uma, não sei se a palavra essa é uma pressão de de uso do mercado por causa da questão de aceleração, de de entregar novas experiências aos clientes.
E aí criou se esse esse setor multidisciplinar para começar a constituir regras, esse setor está dentro da área de segurança ou está na área de tecnologia hoje é, ele ficou a cargo de um departamento de dados e aí saiu fora da da área de tecnologia de dados, né? Porque o que que aí há no final? O trabalho é dados, essa é matéria prima, é matéria prima, então é, saiu de tecnologia, isso é de segurança.
Né? Então, hoje, quem define se aquela área de negócio precisa ter algo cuiar é essa área de dados. E aí ele faz a governança e faz a avaliação da necessidade, porque não adianta você migrar. E qual que é o benefício que você vai ter na migração? Muito interessante esse, esse estudo de caso de vocês e a gente fica um pouquinho curioso, acho que a.
Quem está nos acompanhando também. Qual é o perfil desses profissionais? Eu já vou passar também para o estofo, comentar um pouquinho, porque quando você falou dado me chamou muito atenção. Deve ter cientista de dados, você já tinha uma área de dados muito forte, então assim, EE hoje com a inteligência artificial ela também exige, né? Skills diferenciados, né? Então eu fiquei um pouquinho curiosa para entender o perfil.
Desses líderes ou profissionais, enfim, que compõem essa esse grupo, né? De que eu tô chamando de um grupo de inovação, digamos, né, que é um grupo que tá olhando o dado e tá preocupado com com a inovação. Sim, é, é, é. Basicamente são especialistas em em EE, cientistas de dados, né? Mas tem outras disciplinas lá dentro.
Esse departamento ele existia muito antes de começar a se falar, IA dentro do do do mercado, né? Basicamente pra poder ter 11 avaliação de de como que extrai melhor negócio pro cliente na ponta. Você trabalhar um CRM, trabalhar uma análise de perfil de risco, uma análise de perfil de negócio, né? Esse departamento foi criado muito antes, então ele ele faz toda essa gestão da migração de um negócio pra uma pra utilização de a.
De olho no dado, né? De olho no dado EE do benefício, que é que ele vai ser, vai se trazer nessa migração, tendo essa avaliação, ele ele ele dá uma chancela de sequenciamento. Vamos reduzir, né, de uma forma mais singrória. E aí isso cai numa esteira de de de tribo que a gente chama, né, lá dentro, lá de que antigamente se chamava Vila.
Aí lá dentro existem é, é áreas de multidisciplinas. Então tem desenvolvedor, tem um analista de negócios junto, tem a área de segurança, tem a área de tecnologia. E aí todo essa, essa Constituição de guard rainos de necessidades que se que se co e construiu lá atrás, é essas áreas multidisciplinares que estão nas tribos, garantem que aquilo está sendo aplicado.
Muito bom, então saiu AA responsabilidade da definição se vai sequenciar com IA ou não. Saiu da área de tecnologia, se é da área de segurança, porque já foi construído 11 padrão anteriormente, eu só não vou perguntar, vou deixar para depois se tem cheia do IA lá, mas a gente, né, não vão perguntar isso agora. Vamos jogar um pouquinho aqui para o estofo, porque me chamou atenção Na Na Na colocação do Renato. Estofo dado, né?
EE dado, né? A matéria prima de tudo isso, né? Dado informação, enfim, é de novo. A gente continua falando disso. Esse paralelo que o Renato traçou com a Cláudia é muito interessante, porque a gente viveu e foi bem lembrado. Inclusive na última rsa teve 111 trilha específica só para mostrar e comparar os processos. Como foi o cloud first e como está sendo a IA first, né? Por conta da semelhança.
Mas eu acho que a gente tá vivendo um momento diferente, porque talvez agora venha uma nova onda de preocupação com o dado, né? E talvez até eu tenho percebido que tá se falando bastante sobre uma nova onda de vazamento de dados, muito mais críticos do que os os que já vazaram até hoje. A gente já teve grandes vazamentos de dados, mas a gente pode viver aí uma onda muito forte de vazamento de dados por conta.
Desse novo cenário, então eu queria que você falasse um pouquinho disso e avaliasse um pouco o modelo como o Renato trouxe, que é um modelo regulado, né? Um modelo onde você está dentro de uma vertical extremamente regulada, né? É, é, é. Eu acho interessante, porque parece que o problema ele não mudou a raiz do problema, né? OA raiz do problema não mudou. É quando começaram a surgir áreas de dados, de ciência, de dados, de analítica etcétera, né?
Expandindo além do desenvolvimento de teste, a necessidade era A Entrega do dado. É cada cada tribo dessa precisa da entrega precisa de uma de uma fonte de dados ali para trabalhar para si sem ser compartilhada. Então como entrega e como você protege esse dado, né? Esse é esse problema, ele não mudou. O que houve foi uma ramificação, né, porque assim, antes você tinha poucas pessoas ou poucas equipes ali, agora você tem.
Uma série de analistas de negócios, pessoas com expertise muito profunda no negócio, falando assim, bom, agora aquela Barreira técnica que existia que me impedia de desenvolver minha própria solução, ela deixou de existir, então eu posso desenvolver agora. Então daí ele também vai ser soldado, é? Ele também vai fazer o seu próprio desenvolvimento, et cetera, et cetera, né? Então existe essa questão de é como que você vai entregar o dado para aquele analista e como que você vai protegê lo também, né? Para que ele não vaze.
Porque tem uma questão muito importante que é, como você disse, é como isso vai amplificar o vazamento de dados, porque é quando um profissional qualquer acessava um website, né? Existia uma para você criar um exploit, é, tinha uma Barreira técnica muito grande, tinha que fazer um crosight, script, alguma coisa assim, né, que os browsers são vão sempre tentando fechar aquilo, né? Hoje o prompt ele pode estar escondido e ilegível, né? O é escondido aos olhos nossos, né, do.
Dentro de um site, um prompt malicioso e de repente o seu agente vai lá, automaticamente abre aquele site, ele lê aquele prompt, de repente ele começa a cumprir uma ordem automaticamente que não foi você que deu, né? Então é como que você vai começar a fechar tudo isso, né? É OA raiz do problema é a mesma, mas agora ela tem ramificações, muito mais ramificações, né? EE maiores. E daí a questão é, você é?
Como você vai resolver a distribuição dos dados? Como que você distribui os dados para quem tá pedindo, né, para fazer aquele desenvolvimento, aquela inovação, mas como que você vai protegê Los também, né? Não é qualquer tipo de de, de, de cerceamento por política, et cetera, você vai cercear também a inovação, né? E também é uma medida só mitigante, né? Ela não é 11 medida que soluciona a raiz da questão. Muito bom, você já trouxe aí vários insights para gente avançar nesse desafio.
Quero trazer você agora, Igor, é pra que você fale um pouco também, primeiramente de como vocês estão lidando, né, com esse cenário, mas principalmente um pouco que o Renato EEO estufe já colocou, né? Cada vez mais o nosso tema vai ficando claro, né, que é a inovação versus a proteção, a segurança, né? Quer dizer, tá claro que ela tem que ser habilitadora já tá há um bom há um bom tempo sendo cobrada por isso, como o Renato colocou.
Eu acho que hoje, mais e muito mais do que antes, concordo com o estofo, que eu acho que hoje a gente tá vivendo um cenário onde o risco do vazamento de dado é amplificou. Adorei é é a expressão que ele usou. Então eu queria que você falasse um pouco desse cenário e como que lá na Azure que vocês estão lidando e se estruturando e como já se estruturaram pra esse cenário de inovação e de segurança? Excelente graça.
Eu penso sempre na palavra jornada, né? Nós estamos sempre numa jornada de transformação com o objetivo de acelerar o Gold marketing, de aumentar a receita, de trazer produtividade. Música pros ouvidos de todos eles, todos os si, alguma coisa, né? Exato, e isso é desdobrado, né? Por camada tática e também por camada operacional nas companhias, né?
É, e eu sempre começo com uma provocação, né? Hoje é Oo dia mais lento de todas as nossas vidas, né, porque amanhã já surgiu uma tecnologia nova, uma LLM nova, um agente novo que vai trazer mais eficiência. Nossa, eu já tinha ansiedade, agora eu vou ter mais ainda, exato, mas você está certinho, hoje é um privilégio, a ansiedade é muito grande, né? Exato. Então eu penso que quando a gente olha é não é a inovação versus a segurança, na verdade, nós temos que trabalhar.
Conectados e engajados não existe um e outro, existe ambos trabalhando junto. Então se você acelera sem ter os guard raios necessários, fazendo uma analogia com a Fórmula 1, não adianta você acelerar 300 por hora se você não tiver um freio para te proteger na curva, para te possibilitar você acelerar novamente. Eu essa é a acelerança. Então essa analogia que eu trago para tentar dar luz para esse tema e fazer com que os executivos entendam. O freio tá ali para habilitar, né? Exato. E para garantir.
Que a performance seja, porque senão bate aí, né? Como a gente falou, não é sustentável, né? E aí eu concordo muito com essa questão das causas, né? Acho que a gente tem que olhar muito pra isso, porque as tecnologias mudam, mas as maioria das vezes os problemas são os mesmos. Então, antigamente a gente olhava para o desenvolvedor que queria copiar o banco de dados da produção Pra Ele poder ter todos os dados ali e trabalhar.
Isso evoluiu para o machine learning, onde a gente coloca vários dados lá. A gente falou bastante de cloud, mas também agora tem os contêiners. Então a gente tem diversos elementos espalhados dentro do nosso ecossistema que a gente tem que proteger, né? Como que a gente olha para tudo isso e ao mesmo tempo, como que a gente protege a companhia? Então, quando a gente fala de i first, eu acho excelente, mas como o Renato trouxe o security first, tá do lado. E a segurança, ela é uma área transversal.
Então, quando eu olho pra essa big Picture, o que eu vejo? A gente é o grande alicerce da companhia. Ninguém constrói nada em cima de algo que não é perene, né? A gente quer entregar objetivos perenes. Então, se a segurança não tiver muito bem adequada, ajustada, alinhada com tudo isso, a gente tem um problema. A gente conversou um pouco EE, algo que eu tenho pensado e refletido muito.
É sobre kpiais, né? Sobre indicadores, nós adoramos indicadores, né, por por natureza, então a gente discutiu, hoje a gente tem olhado muito pros desenvolvedores que não estão usando token, existe algum problema, como que a gente vai lá conversar, por que que esse deve não tá usando token pra é, é usar o seu potencial da ya. Um segundo fator que a gente tem olhado é com relação a mudança de paradigma, então Oo deve, ele tem que ser hoje muito mais um curador do que de fato um desenvolvedor, então.
A gente precisa ter esse olhar e talvez pro pro management e pro Word. Eu acho que um indicador importante é olhar qual é a latência entre a inovação que a gente está implementando versus a segurança que ela tem pra proteger o nosso dado, a nossa informação. Então, se essa latência ela é muito grande, isso traz um risco pra empresa, porque a gente não vai conseguir frear, né? Todas as áreas de negócio agora eles também são desenvolvedores, eles também estão sendo.
Convidados, né? De maneira gentilmente, para usar AIAE, trazer produtividade, trazer eficiência operacional, e a gente tem que ser um habilitador, né? A gente tem que estar junto para avaliar como que a gente protege isso. E talvez essa latência é onde está o risco que a gente precisa olhar com bastante propriedade, entendeu? Se a gente consegue diminuir essa latência, a gente tem mais segurança. Quanto maior for ela, pior. Ninguém quer descobrir que a gente tinha uma IA que vazou dados.
Depois, né? A gente está tentando sempre estar antecipando isso. Então acho que isso é um é um ponto que eu tenho refletido bastante, discutido nessa jornada, você abordou vários pontos, o deles é justamente essa questão de usar essas métricas de avaliação, de uso de inteligência artificial. Você citou área de desenvolvimento, mas área de negócios também está sendo cobrada com outras, né? Com outras métricas, mas antes da gente entrar nesse segundo tópico.
Ainda queria entender um pouquinho, hoje você, a gente teve um exemplo aqui normalmente, Renato, a área financeira ela serve aí, né, de referência, e eu ouço muitos líderes falando, Ah, é sonho de consumo, aí não vale a área, a área financeira não vale, né? Você também tá no setor financeiro também, mas é diferente, a gente sabe, né, regulação e tudo mais. Vocês vocês criaram uma unidade, você tem uma pessoa dentro da área de segurança olhando pra inovação.
Só conta para gente um pouquinho assim rapidamente. Como é que está a sua estrutura? Quando a gente fala de inovação e segurança, a gente sempre usa abordagem de ser parceiro estratégico do negócio, né? Porque a área de segurança ela não é fim, ela é meio a gente não vende um produto segurança, a gente vende seguros, né? Então a gente precisa se encaixar nessa jornada para habilitar essas áreas a acelerar. Então a gente tem várias, é é iniciativas lá, desde iniciativas locais aqui no Brasil até iniciativas que vem lá do.
Grupo, né? Do head quarter. Então, basicamente, a gente fala em uma jornada de letramento, de conscientização e educação para todo mundo, que é para habilitar essas pessoas a entenderem sobre e a talvez as pessoas de tecnologia estão mais habituadas com isso, mas as pessoas de outras áreas de negócio precisam entender o que que é essa e esse letramento está sendo feito.
Pelo time mesmo de segurança, exato, ele ele é pelo time de tecnologia, de tecnologia, tá embarcado junto, então tem TIE, tem segurança nesse trabalho. Então tem essa jornada acontecendo em várias Bus no mundo. É assim como a gente também tem a jornada para aquilo que é o core da companhia. Como que a gente olha para o core, os nossos processos e como que a gente implementa? IA para trazer eficiência.
Então nessa relação com o desenvolvimento, vocês utilizam se que ele champion, onde você tem esse conceito ainda nesse conceito ele ainda existe e eu no meu recentemente, eu acho que você por acaso estava comigo numa discussão ferrenha sobre a né? AA praticidade do do do security champion, que pode ter mudado de nome, mas eu acho que essa conexão com a área de desenvolvimento.
Nunca foi tão importante, né? De novo, né? A gente tá vivendo um momento que amplifica isso, né? Eu sou do time que defendo essa tese, é ali no grupo, né? É só pra atualizar o público que tá ouvindo ali. Os líderes de segurança se dividiram, né? 50% não, 50% sim, é, mas eu acho que essa essa provocação é é importante pra gente pensar de uma outra perspectiva, sabe? Às vezes a gente fica muito condicionado a fazer aquilo que a gente acha que é o melhor e quando você para?
Pra escutar uma outra visão. Isso agrega muito valor, né? Hoje, uma das coisas que eu acho que AIA mais trouxe pra impactar a gente é a questão de você desaprender para aprender. É como que a gente desaprende o que a gente sabe, o que a gente está condicionado pra aprender de uma maneira nova. E aí eu estou falando de contexto, né? Eu estou mudando totalmente o contexto, então Eu Acredito que essa jornada continua e ela não só continua como ela extrapola, porque talvez nós aqui na posição de Heads de segurança.
Tínhamos que educar a população corporativa com o básico, né? Engenharia social, phishing, assim os nossos desenvolvedores pra fazer o shift left, implementar o secredit by design EE colocar o nosso código com qualidade. Mas agora a gente está com uma problemática que vai além, como que eu capacito com o mínimo de segurança a minha área de negócio, que também passou a ser um desenvolvedor e que não tem esse know how, que não tem esse skill set?
Então tem uma lacuna ali que a gente precisa preencher, né? É, as pessoas estão usando AIA através de voz e desenvolvendo produtos, desenvolvendo dashboards, desenvolvendo visões, e essas visões automaticamente se tornam produtivas. E essa informação produtiva está sendo avaliada para tomar decisão. E aí a gente tem vários problemas, como por exemplo, educar essas pessoas. E o maior que se essa pessoa sai, quem toma conta daquele novo produto que está rodando?
Ele vai parar de pé. Como ele tem documentação, ele passou, por exemplo, por um escândalo, um Vera code, né, para que a gente possa avaliar a qualidade daquele código, as vulnerabilidades, mitigar o risco. Será que alguém executou um pentest naquele ambiente? É como que tá o nosso, o nosso data security postermanagem, né? Eu tô descobrindo as coisas, né, eu tô conseguindo é, é avaliar. E aí uma provocação que eu também deixo assim, a gente tá liderando.
Ou a gente está reagindo? Então acho que esse é sempre 11 driver que a gente precisa ter em mente, né? O quanto que eu consigo estar a frente e puxar o time, engajar o time, educar o time, criar esses guard rays ou o quanto que eu vou reagir? Ah, eu descobri que eu tenho essa Shadow AI AI e agora eu estou correndo atrás para poder. Para ser muito honesto, eu acho que a gente vai sempre estar um passo atrás, porque a inovação.
Ela é muito grande, essa latência é importante medir, entendeu? Graça, porque se a gente tiver com isso muito descolado, é um risco muito grande para companhia, muito bom. Nós tivemos a nossa primeira rodada, onde os cenários aqui, as opiniões, né, as visões e as experiências foram contadas. Bom, mas a gente precisa avançar, né? Justamente como foi colocado aqui. As estratégias são colocadas pra isso, né? Pra segurança poder estar no momento certo, na hora certa.
E da forma melhor possível, eu vou começar a abrir para algumas perguntas estofa. A pergunta da maila Silva, obrigada maila, por estar aqui acompanhando o nosso programa é, eu acho que ela está bem dentro do que a gente espera. Que você nos traga aqui o que vocês têm feito para criar uma boa governança dos dados, ao mesmo tempo minimizando o risco de vazamento de dados e não barrar a inovação com AIA.
A maíla criou uma triangulação muito interessante, né? Então ela fala governança, meio que aquela nossa tríade, né? Processos, pessoas e tecnologia. Então ela fala boa governança dos dados, minimizar o risco do vazamento e não barrar inovação. É resumiu aqui OX da questão, né? E aí eu queria primeiro ouvir a sua opinião.
EE os passos aí que você tem acompanhado, né? Porque é como ele colocou comigo, colocou uma jornada, não tem uma bala de prata, mas agora a gente vai para uma rodada onde a gente forçar um pouquinho a dar alguns passos e algumas estratégias para enfrentar esse desafio. É, eu achei interessante. Um ponto que o Igor trouxe, né? É sobre o.
O processo, né? E a cultura e a disciplina no desenvolvimento e Na Na utilização dos dados? Etcétera, eu acho que Oo melhor resultado, né? É AA expertise de negócio, seja no setor financeiro, seja no agronegócio, seja na saúde. Etcétera isso a gente tem sobrando aqui no Brasil, sobrando é referência mundial. Mas é essa expertise o desenvolvimento amplificado por IAEA disciplina.
Para juntar essas 2 coisas e a disciplina, eu acho que é o que ATI é, formou, né? Nas últimas décadas aqui no mundo inteiro, né? A disciplina de desenvolvimento, a disciplina para utilização dos dados, né? Esse conhecimento tribal, como o Renato disse, né, da, da das tribos, né, que foram codificados em processos e políticas, etcetera, né? É, isso não é uma Barreira, né? Isso é.
É uma peça fundamental nesse tripé para você atingir o melhor resultado e respondendo de forma mais concreta com relação a utilização dos dados. Como que você não vai barrar? Isso é, primeiro você precisa conseguir de alguma forma utilizando uma série de tecnologias ou por nuvem, né? Ou tecnologias específicas para você acelerar A Entrega do dado, mas também.
Com uma identificação já ativa, você já precisava disso para quando você tinha só o desenvolvedor acessando, ou só um cientista de dados ou um analista de BI acessando. Mas agora essa necessidade ela se tornou ainda mais urgente, que é identificar onde é que você tem dados pessoais, dados sensíveis dos seus clientes e protegê Los. Só que você precisa protegê Los de uma forma que você não invalide o resultado da análise daquela IA. Então, se você está usando IA.
Né, como uma ferramenta ou se você está treinando o seu próprio modelo, aquele dado, ele não pode estar poluído com uma transformação num resto criptográfico. Aquilo lá não se traduz para um nome ou para um CPF ou para o endereço, né? Mas você continua precisando proteger aquilo de alguma forma para preservar o resultado que vai ser adquirido ali no final, né? Então, talvez.
Trocar nomes por outros nomes, documentos por documentos aleatórios, etcetera, eu vou adiantar aqui, muitos estão falando estratégias de anonimização, blindagem de dado, tudo isso, dado sintético, isso são hoje estratégias importantes nesse cenário, ou talvez até fundamentais. Se não estavam sendo feitas, vão ter que necessariamente isso já era, já era uma necessidade no desenvolvimento tradicional. Isso porque era um problema localizado.
E agora é um problema disseminado. Você precisava proteger o dado existente antes de distribuir aquela cópia para para ela ser utilizada para uma determinada finalidade de negócio. Agora mais do que nunca, agora mais do que nunca. E às vezes, você precisa incrementar esse dado também para fazer simulações que sejam de cenário, etc. Então, essa combinação de proteção com dado, com incremento, com dados sintéticos, ela se tornou ainda mais urgente. Sua necessidade ela já existia.
Só que ela era localizada pra deve pro cientista de dados, pra um analista de BI, agora que todo mundo está desenvolvendo e todo mundo virou, cientista de dados, virou uma preocupação de todos. E aí vem aquele conhecimento tribal, aquele negócio que já existia dentro da TI, que era de é executar esses passos, né? E respeitar esse espaço. Porque eles estão lá por um motivo, né? Eles estão lá por um motivo, respeitar esses passos mesmo com a utilização da IA.
Eu vou só avançar com o estofo e já passar para vocês muitas perguntas chegando, vocês sempre disciplinados, né? Convoco vocês e vocês estão aí colaborando. É as tecnologias, né? A gente, não quero nem citar o produto AB ou c, mas as tecnologias existentes e a gente tem bastante vocês.
Que tem uma plataforma também, elas elas vão ter que também mudar, vão ter que aperfeiçoar, terão que vir novas versões para esse novo cenário, que não é só, não é só de automação, mas também de autonomia. Autonomia em todos os sentidos, né? Autonomia dos agentes, autonomia dos colaboradores. Tá ficando cada vez mais empoderado, né? Esse esse cenário, né?
É, a gente está falando de de novas tecnologias ou estamos falando das mesmas tecnologias? Eu acho que pouco dos 2 é, né? Eu acho que as tecnologias existentes, elas vão ter que ser repensados às vezes, por exemplo, isso é uma lição de casa para indústria. É um modelo de licenciamento, por exemplo, um RP que licencia por por Siti, por assento, por usuário, tá?
É como que ele vai, como é que ele vai monetizar o produto dele, agora que ao invés de ter 100 usuários, você tem uma e a executando todas as operações, é isso que eu estou dizendo, né? Muda, né? Então, muitas vezes OOA tecnologia existente não vai mudar, mas o modelo de negócio vai ter que mudar perfeito. E novas tecnologias com certeza vão surgir também para como a disrupção do mercado, né? Muito bom, uma pergunta específica aqui para o Renato.
Da Bianca assoni a Bianca também, sempre preciso também acompanhando aí o nosso trabalho. É sobre o cenário, seu Renato. Existem exigências do Bacen que focam especificamente na inovação segura da IA dentro dos bancos, há algum controle do regulador sobre o uso de informações sensíveis dos bancarizados na IA dos bancos?
Acho que vou fazer um paralelo de novo. Boa, Hein, Bianca, gostei da pergunta, aqui é assim, Hein, aqui não tem jeito, né? Aqui a turma que está acompanhando está atenta, é, eu vou trazer de novo um paralelo, né, na época de de de Cláudio, né, que o próprio Bacen regulou, né, com o uso de de nuvem, né? É processamento de dados em foi mudando ali de acordo com o cenário, né? Exato.
Então assim, AI, AI, não é diferente, você vai ter um processamento de dados, né? E aí, seja dentro da onprime ou em um ambiente de iCloud, né? Só muda a tecnologia EEEO banco precisa ter uma proteção que garanta que aquele dado não seja minimamente alterado ou seja vazado, né? Então isso mudou.
Tanto o pulmão de cloud, né, que saiu a resolução do Bacen que a gente precisava ter essa garantia, né? E aí aí tem todo um processo de se algo acontecer, tem que ter é informar o banco central que aquilo aconteceu, né? De forma é tempestiva e por que que aconteceu? E tem todo um rito que se segue no setor financeiro e isso não mudou que IA.
É, é a mesma questão, foi o que a gente falou, dado, mas vão vir aí alguns aperfeiçoamentos do modelo, né, de de regulação, né, porque como ele falou, hoje a gente já está lento, né? Sim, hoje é passado, né, passado 1 hora depois já é passado, e as regulações também acabam tendo que ser é de alguma forma adaptada, né? Principalmente eu acho que quando começar o fomento mais forte do do Daya, agente, né? Com os agentes trabalham os dados, né? Você vai ter um.
11. Vamos falar assim, um robô que virou um funcionário e que ele tomou uma ação baseada numa numa programação. Quem que vai? Quem é que vai ser penalizado? É o desenvolvedor que que desenvolveu aquele agente, é a área de de negócio que pediu para para aquilo ser transformado em um agente e aquele agente transformar a informação.
Então foi como como ele colocou, é um Mundo Novo, né? Que vai mudar forma de negócio, vai mudar a forma de responsabilização, né? Então é algo que vai realmente vai ter que ser sentado na mesa junto com o regulador e trabalhar para que algo seja escrito nesse novo cenário.
Mas com relação ao dado, ao dado é o que a gente já segue No No, no que já tem uma regulamentação que já pode usar como referência para própria IA, acho que está respondida aí a dúvida é, Ícaro, farmácias pague menos. Tudo bem, Ícaro? Obrigada aí por estar nos acompanhando, o Ícaro pergunta para você, Igor, ok da jornada, mas por onde começar? Dentro da área de segurança, quem da equipe você acha que tem o skill e o perfil?
Que pode atuar nessa jornada. E a questão da governança, vocês criaram essa governança, ela é é explícita, ela tá documentada. Ele pergunta, se todos da companhia tem acesso, como que vocês disseminaram agora? A gente tá entrando no como, né? O pessoal quer saber como as as, as experiências e as ações estão sendo conduzidas. E caro, muito obrigado pela pergunta.
É primeira coisa, é fazer o básico bem feito, né? A gente adora essa frase em segurança da informação, então você tem que ter uma política, porque a política é o delimitador, é como a gente quer que a nossa organização opere mediante esse tema e a até onde a gente pode ir, até onde a gente não pode ir. Então esse driver, ele é o primeiro passo, só que a política por si só, ela não faz milagre, né? Então o letramento, ele é importante caminhar de mãos dadas com a política. As pessoas precisam ser treinadas e capacitadas pra entender o que ela pode e o que ela não pode fazer.
É, segunda coisa, é a segurança entrar nessa jornada pra entender qual que é a dor do negócio, né? Muitas vezes a gente tá pensando na solução antes de pensar no problema, e isso se torna caótico, né? E a gente começa a criar outros problemas que a gente nem tinha antes. Mas hoje vocês, vocês mesmos falam que é difícil hoje, dentro da área de segurança, você ter é profissionais com esse conhecimento. Acho que um pouco do que o Ícaro tá trazendo de desafio.
É que assim como o estou falou, muda e eu acho que exige um novo perfil também perfeito, detectar quem ali dentro do time, né? Isso 2 perguntas, né? Então a primeira de governança e a semana de pessoas, eu penso que tem 2 caminhos, o primeiro é up skiling e re skiling. Então a gente precisa continuar capacitando os nossos times pra que eles adquiram esses novos conhecimentos. Tá todo mundo embarcado no mesmo lugar, ninguém sabe mais ou ninguém sabe menos, mas você precisa.
Garantir que você tem um tempo para o seu time treinar, fazer treinamento, curso, conscientização e trazer isso para o dia a dia. E a gente também tem que buscar oxigênio novo para o nosso time. Quem do mercado hoje está mais preparado que a gente pode contratar para provocar isso?
A gente não tem muitos engenheiros de a hoje, mas a gente já tem pessoas aqui no Brasil capacitadas nesse tema que estão avançando, então é importante a gente trazer isso aqui, complementa ele. Eu estou acompanhando porque vocês são rápidos, né? A velocidade ali parece da da dos agentes ali. Acho que tem agente aí no nosso público. O que ele quer dizer também aqui, o Ulisses que eu já peguei. A pergunta dele é se, além de detectar esses esquilos dentro da própria área de tecnologia, é como esse modelo multidisciplinar.
Né que o Renato trouxe. Se lá na zury que vocês também tem outros perfis de outras áreas de negócios atuando, é é esse modelo de Coin. Ele é muito bacana porque você traz gente de todo lugar e eu diria que além é da área de tecnologia, é o apetite. Quais são as pessoas hoje que estão engajadas com esse tema e vocês acham que é mais a geração z que tem esse perfil? Eu acho que a geração z nasceu com isso já nativo, sabe? E já tem esse está correndo nas veias, exato.
Talvez é os outros perfis, né? Eles precisam ter agilidade. Acho que essa é a palavra correta, é entender que isso não vai mudar, né? E isso é algo que está intrinsecamente conectado, ele não vai mudar, ele é disruptivo e ele é brutal. Então a gente precisa acompanhar essa mudança e ser o agente de mudança. Se a gente for reativo, você perde muito tempo, você vai ficar para trás, você vai ser substituído. Então, as pessoas hoje a gente tem até um certo medo de perder o trabalho, porque o Maia vai te substituir.
Isso é um fato, o mercado ele muda a todo momento, né? Quem continua mexendo com assender perdeu bastante espaço pra quem hoje desenvolve em Python, é natural, né? Então a gente precisa o quê? Entrar nessa jornada e ir junto. Se educar é novamente graça, não tem uma única bala de prata que resolva isso, né? Eu acho que é um conjunto de ações, né? E entender o quanto que a sua companhia, ela ela, ela está disposta a educar isso, né?
Mas ter essa governança estabelecida, né? Ter esse modus operandi documentado, isso é fundamental. E aí eu trago um dado para vocês, né? Vocês sabem que eu percorro aí o país e tem várias plateias em todas as cidades. E na maioria das vezes, quando eu pergunto quantas empresas tem hoje? 11 código, né? De conduta.
É uma governança estabelecida para uso de agentes de IAA. Minoria levanta o dedo, então estou pergunta para você é, o pessoal quer saber como, né? Então a gente vai falando aqui e às vezes parece assim, nossa, por onde eu começo, né? É, tem muita coisa para ser feita.
Mas talvez é. Tenha assim, você possa dar um pouco assim uma ideia de mesmo que você ainda tenha um ambiente onde você não tem um tratamento de dados adequado, que você ainda não tenha, né? Todas as tecnologias e a governança estabelecida, você precisa avançar. Então, pela experiência, pelo que você tem acompanhado nos clientes, que que dicas aí de como avançar você?
Eu colocaria aqui para o público. Eu acho que precisa primeiro ter o reconhecimento de que os nossos funcionários, eles serão usuários de a quer você queira, quer não. A gente precisa reconhecer isso, porque mesmo que você bloqueie a instalação de um aplicativo no computador, hoje ele consegue tirar uma foto do da você falando isso. Eu fico curiosa. Você não encontra clientes e área de segurança que ainda não internacionalizou isso ainda não Inter.
Não internalizou isso para poder, a partir daí, considerar o seguinte, eu realmente não tenho como impedir o Shadow ya é uma realidade. E o que que eu faço dentro de um ambiente que já está com essa configuração? Sorte sua se o seu funcionário é foi para uma das viagens mainstream, sorte sua, porque se o público deve estar, o pessoal deve estar rindo lá do outro lado. É ele o.
Oo desenvolvedor, analista de negócio, ele vai usar ya é porque o seu concorrente de negócio está usando e vai estar na sua frente e daí dentro dentro do seu ecossistema, ou quem não usar está ficando para trás, porque quem está usando está entregando mais, então todo mundo vai usar. E se não existe uma política na empresa, né? Do que pode usar e como, ou minimamente, qual modelo de a usar, qual aplicativo usar, é a realidade, é que cada um vai usar o seu.
E mesmo que você bloqueie o acesso no computador pelo browser, etcétera vai usar pelo celular e hoje não precisa nem digitar mais, que antes dava trabalho isso, né? Tira uma foto ali, AIA vê o que tá naquela foto, o texto etcétera EE já te dá uma resposta, né? Então você precisa primeiro reconhecer que AIA vai existir, né? Então e começar a criar políticas, pelo menos assim de.
Qual o modelo de a usar, né? Ou voltar, como foi na época do do né, de, de da adoção da internet, né? Qual browser vai usar? Se pode instalar plugin no browser, se não pode etcétera, né, então assim você vai usar o cloud, você vai usar o ChatGPT, olha isso aqui é a forma como você pode instalar esse aqui, são os plugins que são permitidos para você usar. Tem um no mínimo um contrato empresarial com uma política do que que pode ser utilizado e do que que não pode ser utilizado, né?
Porque senão o usuário que que ele vai fazer, ele vai começar a baixar, daí ele vai ver que tem um plugin, vai aparecer no Instagram para ele que é tal skill do clod que é só ele copiar e colar, vai vai executar várias ações para ele que ele não vai nem precisar mais digitar no prompt, e daí ele vai colando aquilo e colando aquilo e daí de repente tá um faroeste, né? Tá um faroeste para a gente é encerrar essa, esse, esse como aqui, EE entrar num terceiro e último bloco aí, né, gente? Tem muitas perguntas.
Eu vou tentar trazê las na medida do possível, mas é você defende. A gente já conversou bastante sobre isso. É é essa preocupação com o dado, né, com essa blindagem do dado. Só que esse dado hoje ele tem uma vida, né, dentro da organização. E às vezes o que eu tô percebendo aqui algumas perguntas é que como ele trafega, né? É difícil às vezes estabelecer como que você vai fazer essa blindade, porque ele tem usos e aplicações diferentes.
Em ambiente de desenvolvimento não produtivo, desenvolvimento produtivo. Então talvez aí a gente tenha que explorar um pouquinho mais. E aqui alguns estão perguntando se você acha que que segurança tem essa habilidade ou se realmente tem que estar nas mãos dos cientistas de dados. Eu acho que segurança tem essa essa habilidade. Claro que né? Tem os tem o centro de excelência. Você tem várias áreas ali que você tem que fazer chegar num consenso.
Né? Mas eu acho que segurança tem essa habilidade, sim, é, e eu acho que precisa ter 11 reconhecimento também de que é você fazer mitigações, né? Você tem várias ramificações ali de como aquele dado vai ser utilizado, os potenciais benefícios dele e os e os malefícios também. Você tentar só mitigar os malefícios, né? Você vai, você vai ter que pensar no potencial enquanto tem um mundo inteiro ali.
É pensando contra você em como é infiltrar e extrair seus dados, né? E roubar suas informações. Então você precisa ter uma política ali de distribuição dos dados na raiz, né? É de pra você atacar a raiz do problema mesmo.
Então você criar políticas de distribuição de dados com perfis diferentes de proteção para determinadas necessidades de negócio. Existe coisa que já lá na LGPD isso já estava, já, já deveria, mas é aquela sua lição de casa, o uso racional do dado. Essa lição de casa não foi feita como deveria o uso racional do dado, isso estava na LGPD, isso estava, isso estava na LGPD, isso estava na regulação do Bacen? Exato, é isso já estava lá de segurança, estava na sua política, na política de segurança. Então, assim, criar políticas de distribuir.
De dados com perfis diferentes de proteção que se adaptem àquela necessidade de negócio. Lembrando sempre que se existe 111 necessidade legítima do negócio para acessar determinado fragmento ali da informação, então aquele uso também é legítimo, né? Até de acordo com a lei, se você tomou todas as proteções adequadas ali para proteger aquele dado, impedir um vazamento, então aquele uso também é legítimo, né?
Então você tem políticas de distribuição de dados, de ciclo de vida, de dados com perfis diferentes, de proteção para cada necessidade de negócio. Quer dizer, essa lição lá, desde que foi implementado esse modelo de proteção não foi feita, né? De forma adequada. Tem agora uma segunda. Agora não tenho só más notícias. Eu trago boas notícias também, porque hoje.
Com um incentivo adequado, é muito mais rápido você desenvolver esse tipo de coisa, porque você tem o auxílio da Iata, né? Terceiro, a gente falou de desafio, a gente falou de como e agora a gente vai falar de benefício. Afinal de contas, tudo isso que tá aí não pode ser só para gerar ansiedade, né? E nem burnout, tudo que tá aí tem muita solução, né? Desde tecnologia, quando eu falo solução é tecnologia, processos e pessoas, né? Pra transformar isso.
E aí a pergunta do Antônio Carlos para o Renato vem bem em cima desse nosso terceiro bloco. Renato, você poderia explorar um pouco mais quais foram os guard reios implementados e quais apresentaram os melhores benefícios. Ele quer saber alguns segredos, vamos ver quantos você pode compartilhar. Muito boa pergunta, Antônio Carlos.
Basicamente, né? É acho que OOO primeiro guard rail aí, né? Antônio Carlos é a proteção do dado, né? EE, foi o que a gente acabou de falar aqui, né?
Lá na raiz, como estou falou, né? Só tem que descobrir onde está a raiz do dado. Só então ele está lá, né? Ele está proliferado dentro da organização. Então o que que o que que a gente entende lá é é a proteção do dado. É o primeiro, né? Como como você trabalhar o dado e proteger No No ao longo da vida daquele dado?
Ele tem que ter, tem que estar qualificado, tem que estar protegido. O dado que vai ser trabalhado em em ambientes de desenvolvimento será um dado sintético e não produtivo. Os anonimizados, então, são são alguns itens, né? Perfeito novamente que a gente.
Não precisou criar tudo, tudo, tudo, nem tudo se cria, tudo se transforma, nisso tudo se cria, né? Então é, foi adaptações, né? De de guarde redes de insegurança pra uma nova tecnologia. Foi novamente, foi o que aconteceu no mundo de crowd, a gente tinha proteções pro bention Prime que necessitaram serem adaptadas pra um pra uma nova realidade de tecnologia. Isso também tá acontecendo com com o IA, né? Então é é basicamente a questão do dado, né, a proteção.
Como garantir que aqui, minimamente, não se é? Tenha axé Dwight, né? Dentro da companhia é lógico que não existe, né? Como foi colocado aqui, bala de prata para tudo, mas tem que trabalhar para minimizar. Então assim, Oo, isso é um benefício que uma lição de casa bem feita pode trazer, né? Conseguir minimizar e ter uma maior visibilidade, controle, admitindo como ele falou.
Primeiro passo existe, então assim, não adianta falar, não é exato, exato, então AA instituição ela ela ela escolheu uma plataforma corporativa de IA para ser usado, né? Então também isso também ajudou, porque qual, qual a plataforma que garantia maior segurança e vocês desenvolveram? Vocês adaptaram essa e criaram uma própria.
EAO tem, não tem algumas. Tem algumas áreas dentro da organização, né? Baseada naquela e a tá né, que foi escolhida, foi adaptada, foi adaptada, ser usada para uma determinada área de negócio. E isso você acha que também traz maiores benefícios, né? Benefícios. Porque você está conseguindo garantir que aquela aquela, aquela política, aquele guard raio que você desenvolveu, ela, ela, ela acaba sendo plugado naquela tecnologia que foi escolhida.
Né? Então é novamente, é é proteção de dos dados. A questão de de algumas é interfaces com alguns usuários, porque nem sempre, né? AAEA não está só na área de tecnologia, né? Para uso para benefício para uma determinada área de negócio, mas você garantir que aquela área de negócios só consiga gerar resultados, que ela ela trabalhe com as suas necessidades e não ela usar uma e a para poder ter 11 resultado ampliado, vamos falar assim.
Né? Então foi reduzir AAO resultado que aquela dá para necessidade de negócio guard redes de segurança com relação AA ao top 10 ou ou a asp LLM por exemplo, né? De não ter 11 injeção de código, não ter 111, envenenamento do do resultado do prompt. Então algumas questões com relação a isso também foram aplicadas e novamente trouxeram benefício para os da IA. Então assim é, é é plugar ou que você.
Determinou como segurança versus o que a tecnologia que foi escolhida atrás de benefício com aqueles itens que você elencou? Se isso fundir e trouxer resultado, é o melhor cenário que dá para ser utilizado. Muita organização, muito bom é o Elton Moreno traz uma pergunta, aqui tem várias, né? Eu estou tentando aqui aglutinar algumas.
Mas Oo Elton traz um aspecto que também pode ser um benefício, existem hoje algumas certificações de governança de a ministradas por entidades importantes da nossa área. Você já usa alguma delas ou tem planos? Parabéns pela organização e execução do programa. Obrigada, Elton, você está nos acompanhando. E aí, pessoal, vou deixar aqui quicando na área, ó, vocês sabem de de alguma coisa nesse sentido, estão utilizando.
Certificação de governar mas já existe essas certificações, você conhece? Eu acho que tá muito difícil separar o joio do trigo, tá, né? É, tá. É muito curso, muito curso online em rede social, é?
O que não falta agora em rede social, tanto No No Instagram quanto no LinkedIn e demais eles é como desenvolver auto denominados especialistas, vendendo certificações. Essa proliferação com um benefício muito concreto, eu acho que as instituições é que já existiam antes, né? As instituições mais reconhecidas, acadêmicas, etcetera, eu acho que elas permanecem sendo o centro de referência.
Pra isso, né? É tanto em nível de de pós graduação como de aperfeiçoamento técnico. Etcétera é e tomar muito cuidado com esses é cursos de pronting, de newing, Vibe code, certificações etcétera, porque você até pode extrair alguma coisa disso, mas Na Na vasta maioria das vezes você vai estar jogando dinheiro fora. Eu Acredito, acho que se há para contribuir, acho que.
É, é, Eu Acredito que você escolheu o parceiro e o parceiro te trazer, trazer, trazer esse conhecimento para você utilizar aquela tecnologia é um caminho, é um caminho mais seguro, que traz mais benefícios, né? É do que foi que ele colocou, né? Você começar AA pensar de vários lugares para poder achar que vai criar, eu acho que é um pouco mais arriscado, tá? Perfeito, ótimo. Pergunta do Tarek, base também, siso lá, logo logo a gente vai estar junto aí em Curitiba, é?
É falando de benefício, é independente de quão madura seja a empresa. Quais benefícios mais imediatos estofe você acredita que esse Discovery de EAE de dados pode trazer que você tenha visto acompanhado? Não precisa citar as empresas. A gente sabe, né, que os cases, né? De sucesso, muitas vezes a gente nem nem pode compartilhar.
Mas o que que pode não é trazer de valor. Aí você começar um processo como esse. Eu acho que como tudo Na Na ti não é a iaia, ela está removendo diversas Barreiras, não é diversos gargalos que você tinha aí, inclusive de produtividade. Então é talvez antes faltasse mão de obra, esforço ou priorização de negócio para você fazer identificação dentro dos seus repositórios de dados. Onde é que estão armazenados os determinados tipos de dados?
Especialmente quando são dados não estruturados, né? Então às vezes um Excel, um Word, um PDF etcétera e essas são coisas agora que o Maya consegue analisar em massa, né? E nem precisa às vezes pensar em modelos de a em em nuvem, né? Esses, às vezes um modelo local, mesmo rodando numa máquina minimamente razoável, consegue fazer esse tipo de identificação num tempo bem, bem, bem adequado também. Então isso é um tipo de coisa que dá para acelerar muito hoje em dia, porque.
Você removeu um resultado. É porque antes você tinha uma limitação de mão de obra, esforço, e você e aquilo competia com outras prioridades de negócio, né? E em em muitos aspectos, essa essa limitação ela não existe mais, né? Então você consegue trabalhar em várias coisas ao mesmo tempo. Então essa é uma delas, essa é uma delas, uma outra coisa que também é interessante que eu queria explorar, que estava aqui, inclusive na minha pauta no final, quando a gente está falando de valor e benefício.
A gente tem visto muito e aí é tema de outro, de outro programa que a gente vai ter aqui, o uso da IA dentro da área da própria EAD, Cyber, né? Para trazer autonomia, né? E tudo mais. Mas dentro do nosso contexto de dados, também dá para ver o benefício aí de usar autonomia também no próprio processo, na própria tecnologia, para conseguir fazer esse trabalho de forma mais eficiente e produtiva.
As tecnologias já estão embarcando isso. Você acha que vem uma nova geração, como você falou, tem aí um processo também de amadurecimento ou adaptação, talvez seja, eu acho que a palavra num processo de Franca adaptação assim, tá? Então, às vezes você dá acesso direto para um modelo de a para ele construir um dashboard para você, tá? Ou você usar o cloud code ao invés do do cloud puro, o code que ao invés do GPT.
Para desenvolver um Python para você, que vai fazer o mesmo dashboard e vai ser um negócio mais escalável, entendeu? Então isso é o tipo de coisa que eu acho que ainda está, é depende do nível de estruturação e de de da do dado e daquilo que você precisa assim. Mas eu acho que isso é uma coisa que ainda está amadurecendo bastante no mercado e eu acho que a gente vai acabar vendo uma mistura e com certeza vai ser um benefício, né? Com certeza vai ser é é IA e contra IA ou IAA favor de IA. Eu acho que os 2 lados vão se.
Beneficiar. Mas concordo que tem aí uma esteira aí de de de amadurecimento. Eu acho que tem 11 consolidação ainda a ser feita aí do que do que é o bom uso até o uso eficiente da IAE, se aquilo ali é um problema que só AIA resolve ou se é algo que, né? Você poderia usar AIA para ter um desenvolver um programa que resolve aquele problema, né? É, se é um problema, mais é que precisa de mais inferência, né? Que.
Vindo do modelo de inferência ali, que é OLLM, né, você é algo mais determinístico, que pode ser resolvido só com um código simples mesmo, né? Então, acho que isso é uma coisa que ainda vai consolidar e a gente vai ter que tratar caso a caso mesmo, infelizmente, um complemento é uma questão de protagonismo, né? A gente tá esperando uma consolidação do mercado, a gente tá esperando uma embarcada, mas o quanto que nós mesmos, em segurança, podemos construir os nossos agentes para facilitar a nossa vida?
Então, um agente para olhar esses dados, um agente para fazer a qualificação, um agente para anonimizar, ó, que mundo, que cenário ideal, né? Eu tenho um exemplo que eu tenho discutido bastante com meu time, que é tanto na indústria, é de finanças que a gente tem o eles têm o Bacen em seguros, a gente tem a susep, exato, então a gente é altamente regulado e o que nós temos de mais no ambiente regulado, auditorias, o que é o processo de auditoria é eu coletar evidências, é eu verificar evidências, é.
Processo repetitivo, sim. Como que eu crio um agente de a para que possa me ajudar a buscar essas evidências de uma maneira padronizada? Como que eu crio um segundo agente de a para que eu possa olhar essas evidências e ver se elas estão complynt? E como que eu crio um terceiro agente de a para distribuir essa informação para quem de fato precisa?
Consolidado, que seja, que você já entrega nas mãos de uma auditoria, exato, então é simplificar a jornada, é benefício da veia, é eficiência. Ao invés de eu gastar x horas, eu passo a gastar y horas e aí sobra tempo para eu pensar em outros problemas. Perfeito. Então eu acho que dentro dessa jornada, né, tem também como que você abraça isso, como que você traz isso para suas rotinas, principalmente as repetitivas, as operacionais, né? Nós estamos com falta de pessoas também.
E não vai ninguém ser demitido, vai ser aperfeiçoado, vai poder, vai estudar mais, mais ou menos algumas áreas realmente vão sofrer impactos, né? Então é, por exemplo, quando a gente fala de tradução, ninguém vai mais contratar um tradutor. A tecnologia já chegou no nível de fazer essa tradução automática ali, quase que simulou, mas acho que os tradutores já estão, já exato, resolveram fazer outra coisa. Tem outras problemáticas. Por exemplo, o call center é o jamm i flash está num nível que ele não só consegue entender a voz, mas a.
Tonalidade a intenção, e ele consegue através é da LLM responder, é de acordo, né? Exato. Será que a gente não vai ter 11 ruptura absurda do call center. Será que tudo não vai ser agora atendido por robôs, por agentes e não mais por humanos, né? Óbvio que simples, né? Humanizados, né? Talvez muito mais do que um ser humano que tá só seguindo 111, paciência infinita.
Em 24:7 em 24:7 é na área estresse, gente, olha, sensacional. Pena que a gente está indo para o final, mas o Elton veio com uma réplica aqui, não sei se vai ser, se vai ter tréplica. Segundo Elton, existem certificações de governança de assim pela people cert e pela eczin. Então assim tem. Mas Elton, a gente está vendo aqui, pelo menos pela nossa conversa, pelo que eu tenho acompanhado.
Que a gente ainda está em um processo ainda de amadurecimento, então tem que saber separar um pouquinho, é é Oo joio do trigo e procurar realmente um nível de especialização e de domínio dessa tecnologia, seja através de parcerias, né? Que precisam ser muito bem avaliadas para ver se elas trazem esse conhecimento necessário. Por isso a gente tem sempre os nossos parceiros aqui conosco debatendo.
É uma forma da gente testar o conhecimento, saber se realmente, né? Os nossos parceiros têm o skill e a capacidade de nos atender, então acho isso muito importante. E tem uma contribuição aqui da angelita Correia também, siso, representando aí nosso grupo de mulheres. Siso. Precisamos fazer graça a mais um programa desse tema, com mais compartilhamento de cases e sucesso em ar. Vocês estão de parabéns.
Então eu uso aqui a colocação dela pra ficar o convite pra gente ter mais uma rodada trazendo cases. E eu queria começar fazendo uma avaliação do que que você deixaria de mensagem principal de tudo que a gente conversou aqui em relação AA insights mesmo que você acha que é o ponto central e focal da nossa conversa? Excelente. Eu Acredito, pessoal, que por natureza nós aqui de segurança somos avessos a risco.
Mas pensem em nos extremos, os extremos sempre nos provocam a pensar diferente. Um ambiente totalmente regulado e uma startup, talvez uma startup não tenha 0,1 de segurança do que a gente tem num ambiente altamente regulado, e eles estão ganhando dinheiro, estão crescendo, estão sobrevivendo. O que que isso quer dizer? Que a inovação ela faz parte, né? Ela tá nesse mitiê e ela vai fazer a coisa acontecer. Então será que a gente também não perde a mão na hora de fazer uma avaliação de riscos entre o que é um risco?
Que pode acontecer e ter a materialização do risco. Então esse é o primeiro insight e o segundo é que eu penso assim, você tem o core da sua companhia, aquilo tem que ser protegido, porque aquilo é a joia da coroa. Mas será que aonde a gente está atuando com ambidestria, onde a gente está pivotando, onde a gente está descobrindo novos produtos? Será que eu não deveria flexibilizar? Eu não preciso ter o mesmo grau de controle.
Que eu tenho no meu core, aonde eu estou inovando, onde eu estou pivotando, onde eu estou atuando com ATIB modal ou com a amidestria. Então acho que a gente precisa ponderar um pouco isso para dar espaço para que essas áreas criem produtos novos para a gente manter a perenidade, uma vez que qualquer produto tem um ciclo de vida. Então acho que essas são as 2 dicas em sites que eu deixo aqui para nossa turma. Muito bom, excelente, excelente. Renato bom, acho que contribuindo com o que já foi falado aqui é.
Acredito que a utilização da Iara tem que ter um contexto, né, e não ir IA por ir para a IA, né? Seja pela própria área de Cyber, seja pela área de negócios. Aqui eu tô colocando no contexto geral, porque a gente vê como, como ele colocou agora pouco aqui, às vezes você tem 11 programação diferenciada, né? De um produto.
Você já vai entregar um resultado muito melhor pro seu cliente do que você ter uma automação de IA pra poder resolver uma situação XO que a gente vê aí conversando com o mercado, né? Não, não tô, não. Tô especificando só no setor financeiro. É que às vezes o pessoal acaba automatizando o processo que não precisava nem existir mais, né?
E aí acaba é, é automatizando a burocratização. Vamos falar assim, automatizando o erro, né? É o erro, então amplificando, né, amplificando o processo desnecessário, digamos, e aí você vai dar 11 algo desnecessário que possa gerar um risco para você, né? Porque você está automatizando um processo que vai trabalhar dados e aquilo pode ser trabalhado em cima de outro dado e que te dá um, talvez um risco, né? Foi como é, é e colocou.
Então assim é não não ser contra AAA inovação, acho que a área de segurança tem que ser um Barramento do negócio, né? É especificamente olhando agora para a segurança, tem que ser um Barramento no negócio, né, para fomentar a inovação. Mas Eu Acredito que vocês tenham que ter um contexto na migração para uma tecnologia como a inteligência artificial, porque automatizar por automatizar não vai adiantar. E como foi colocado também, né? É.
Você ter processos burocráticos que você tem uma repetição e você colocar um agente traz um grande benefício. Isso a gente já já vive na prática lá, né? A gente tem algumas questões assim que os agentes, né, AAA, essas oportunidades, né, porque você tá, você tá começando a ter uma experiência dentro de casa, né? E não e não levar a experiência do uso de IA pra um pra uma jornada com cliente, né? Experiência dentro de casa, você vai ter 111.
No upskill do do uso da tecnologia, um o. É um bom ambiente de teste, né? É um bom ambiente de teste. Você automatizar processo burocrático. Você aprende a depois levar isso para o cliente numa jornada de negócio perfeito.
Chegamos ao final, né? Não ao final do assunto, porque o assunto tá só começando, né? Mas é importante a gente, né, ter uma deixar aí uma mensagem final, né, para o público, muitas perguntas, viu? Difícil aqui para a gente conseguir responder todas, mas acho que a gente cumpriu aí com grande parte do nosso propósito. Eu concordo com o Renato com relação a ter um propósito no uso da da IA, né? É não usar por usar às vezes.
Pelo menos um reconhecimento, uma métrica do do que está sendo entregue ali. Não é se o que não se o que está gerando ali não é só um slope, não é um negócio inútil ou um processo que já não precisava mais existir. EE, às vezes eu sou pessimista com relação ao mercado de trabalho e às vezes eu sou mais otimista, não é? Hoje, durante essa conversa aqui, eu vou respeitosamente discordar um pouco do Igor com relação à parte do mercado de trabalho, que eu acho que uma coisa que deve ser muito pensada assim é o quanto você quer entregar.
A operação do seu negócio para um agente externo, porque hoje o aia é subsidiada por venture capital, né? Então a open a opera No No vermelho, a antrópica opera no vermelho. O Google tem outras Fontes ali para fazer para poder operar OOOO gmenai no vermelho também, mas eventualmente eles vão ter que começar a monetizar isso e de repente, aquele aquela capacidade humana que você tinha.
Não é mais cara do que o modelo de a, né? Ela não vai ser mais cara do que o modelo de a. Só que a operação toda do seu negócio e o conhecimento estratégico do negócio, você acabou entregando para um agente externo. Então acho que tem que ser muito criterioso naquilo que você entrega para IA. É reter o conhecimento humano dentro da sua empresa e não entregar isso para para uma empresa de fora, porque eventualmente isso vai vai ter que ser cobrado. Vai ter que ser cobrado.
Excelente pessoal, vários insights aqui. Todo esse conteúdo vai ser, vai ser editado, vamos ter cortes, vamos ter na íntegra, vai estar disponível nas nossas plataformas de mídias sociais, no nosso canal no YouTube e fica aí o convite para vocês continuarem conosco nos próximos programas. Vamos receber aqui, como eu falei na abertura, vários líderes.
Que vão discutir o tema do ponto de vista de desafio, mas também trazer aqui algumas soluções que foram adotadas. E fica também aí a sugestão da angelita, um abraço aí para ela e para todas as cisonas, como nós falamos, e os sisos que estão nos acompanhando, para que a gente tenha mais estudos de caso aqui e possa compartilhar com toda essa comunidade.
Muito obrigada, Igor. Renato stoff, acho que foi uma conversa sensacional. Eu aprendi muito nosso público, com certeza, pelas mensagens que eu recebi. E a gente se encontra logo, logo no próximo programa da TV security. Muito obrigada pela audiência.