Unknown

Ronaldão Boa noite pessoal só um minutinho que a gente já tá entrando aqui ao vivo com o nosso convidado de hoje o Marcelo nosso parceiro aí de longa data pessoal que tá ouvindo a gente aí já dá um alô pelo chat [Música] [Música] vou deixar você aí Marcelão vou ficar aqui no suporte maravilha você precisasse dar um toque boa apresentação Obrigado por Obrigado Ronaldão Eu só não tô vendo a minha apresentação eu acho que não tá aparecendo aqui deixa eu ver eu vou vou tem eu vou tentar Deixa eu ver se eu consigo converter ela

em PDF porque ela tá em ela tá em Adobe acho que ele não tá ela tá em PowerPoint ele não tá ele não tá conseguindo subir Deixa eu ver se eu consigo transformar ela em PDF aqui e a gente projeta um PDF que acho que pode ser funcional aqui só um minutinho que eu tô tentando transformar em PDF aqui não saber que a plataforma tinha essa limitação show de bola eu acho que também vai no pdf cara vai né sim sim sim sim [Música] maravilha deixa eu ver aqui se ele consegue provavelmente ele tá convertendo

aqui vamos ver se a gente consegue apresentar já para não eu acho que foi Deixa eu ver se eu consigo subir ela agora aqui na salinha do chat O pessoal já tá chegando aí uhum aqui [Música] apresentar Será que tá aparecendo apresentação agora tá aparecendo só foi foi aí ó agora é só você jogar no modulo apresentação deixa eu ver aqui como que ele vai aqui né modo aqui só minutinho será que é assim será que foi ou não dá aí um apresentar aí que vai aparecer P aparece aí Ronaldo tá aparecendo que eu não

consigo ver por aqui tá tá tá aparecendo Tá aparecendo só dá o vai aí e e escolha um arquivo num tamanho menor que 50 m é o tamanho do arquivo sim mas é que eu tô tentando compartilhar a tela eu não sei se tá se tá subindo pera aí deix Ih agora subiu um monte de coisa deu deixa eu tentar aqui dar uma deixa eu tentar interromper o compartilhamento fazer novamente porque na verdade eu não sei se eu compartilho a tela ou se eu sub o arquivo né Deixa eu ver aqui se forma tá bom

maravilha Aí sim agora tô enviando para quem tá online aí Marcelão a gente vai sortear dois treinamentos oficial do cips tá que nós temos aí como instrutor nosso amigo guerra Então vou pedir para Quanto mais a galera tiver interação aí pelo chat mais as pessoas vão estar aí e concorrendo aí ao ao treinamento tá já tá aparecendo online aí apareceu ah apareceu Boa noite Rafão obrigado pela audiência Aí obrigado pela parceria por est sempre acompanhando o nosso Capítulo aí e aos demais também Maravilha Marcelão agora com você meu Amiga eu vou ficar aqui só na

escuta aham então maravilha aqui vocês vem um slide um e dois e assim por diante né então tudo bem sim Senor Maravilha Obrigado Ronaldo Obrigado a todos aí que estão participando online eu queria aproveitar primeiro para agradecer a Isaac essa oportunidade maravilhosa inclusive tanto ao Carlos guerra contra o Ronaldo também pessoas espetaculares e é muito legal est entre vocês aqui né uma associação tão renomada e que a gente troca ideias tão Profundas sobre temas tão importantes aqui na na área de Tec olia segurança e privacidade né então a gente vai falar um pouquinho de a

hoje a inteligência artificial eu vou me apresentar primeiramente acho que acho que faz sentido né para quem ainda não não tiver o prazer de conhecer meu nome é Marcelo Rodrigues Ferreira Dias eu sou eh eu estou como encarregado de privacidade dados da empresa ntt data né a empresa uma das das cinco maiores empresas aí de tecnologia que nós temos na atualidade né E a minha formação ela é jurídica começou lá em 2004 e de 2017 paraa frente eu entrei na ntt data advoguei muitos anos antes disso né e acabei eh de 2018 para frente me

apaixonando pela área de cibersegurança né então é uma satisfação muito grande Tá na ntt data é uma empresa que eu realmente eu gosto muito inclusive quero aproveitar e agradecer a minha equipe né a Gabriela Ferreira o Leonardo Mota que são respectivamente meus braços direito e esquerdo aí da da nossa área e vamos entrar no nosso tema aqui paraa gente não atrasar o horário pessoal a a inteligência artificial alguns anos atrás a gente falava muito o seguinte né a inteligência artificial é o futuro poxa é o futuro Inteligência Artificial hoje a gente já está no presente

a inteligência artificial é uma realidade Então o que a gente vai trazer aqui são insights muito assim objetivos de coisas que refletem segurança e privacidade e na inteligência você como usuário usando a ferramenta e o próprio desenvolvimento trazer um pouquinho como funciona esse desenvolvimento seguro do ponto de vista de Inteligência Artificial porque eu acho que é interessante vocês conhecerem como é feito né então o primeiro ponto que eu trago eu vou tentar ser o mais simples possível e objetivo por favor se eu não estiver sendo podem reclamar no chat o Ronaldo vai me corrigir então

começando um pouquinho aqui com o tema eh a primeira coisa que todas aplicações geral precisam ter é a questão da segurança né você realmente você nem uma empresa que é uma empresa idônea séria quer fornecer aos seus clientes ali riscos então a segurança ela deve ser realmente a base de todas as soluções possíveis plataformas de T que a gente tem no mercado então começando realmente partindo dessa premissa a inteligência artificial as soluções de Inteligência Artificial elas são baseadas em alguns Pilares fundamentais de segurança porque você tem que ter ali minimamente né algumas salvaguardas para que

a a a solução seja segura né Nós vamos aprofundar um pouquinho nesses pontos aqui do privacy Security ethical hacking mas assim em linhas Gerais é pensar a segurança antes de fazer a solução isso é extremamente importante porque uma solução sem segurança é uma solução que não leva agilidade pro seu cliente leva risco pro seu cliente e nenhuma empresa quer isso então aqui a gente tem privacy Security by perdão nós vamos entrar um pouquinho em cada um desses conceitos mas em linhas Gerais quando nós temos a expressão by design significa por padrão Ou seja uma coisa

que é desenhada para ser eh assim Concebida com segurança e com privacidade a gente vai falar um pouquinho de etical design também o etical design ele é uma prática que é utilizada para que a ferramenta não apresente preconceitos vieses ideias erradas né e pensem que a inteligência artificial resguardadas as proporções ela funciona como Google né Ou seja você assim em linhas muito Gerais né para iniciar o tema mesmo você controla o que tem na você controla as saídas da solução mas você não controla o input que o usuário coloca nessa solução então a diferença é

que a inteligência artificiel ela atribui uma leitura uma linguagem que é uma linguagem realmente ali mais humana uma linguagem que que é mais voltada pra sociedade aprende com essas respostas né então a gente vai falar um pouquinho de cada um desses pontos aqui que estão nesse gráfico e de uma forma bastante simples o primeiro ponto que a gente tem é o ponto do Design ético né o design ético nada mais é do que você tentar no máximo possível fazer testes paraa solução para evitar que essa solução tenha ali preconceitos tenha vieses né Eh a gente

vai abordar esse tema do viés mais adiante mas o viés é um um dos temas que foi um dos pontos que fez a nossa legislação demorar tanto Para Ser aprovada porque o viés é aquela aquela questão você tá ali usando uma ferramenta de Inteligência Artificial Imagine que seja uma ferramenta que gere inputs ali que polarizam uma determinada sociedade ou ataca um determinado grupo social isso é totalmente incorreto então A ideia é que nós evitemos esse esse processo E para isso eh existe a técnica do Design ético você pensar na sua ução ela abrangendo o número

maior possível eh ali que de de etnias de de gêneros de sociedade de de de todas as assim de todas as universalidades possíveis dentro de uma sociedade né a gente vai aprofundar a questão do Design ético e um segundo ponto aqui é o Dev secops o Dev secops é o que a gente falou né então imagine vocês ali eh Com certeza quem está nos ouvindo muita gente a gente trabalha com tecnologia já mexeu com tecnologia e assim com certeza se não escutaram vão escutar ainda aquela espressão não é que o cliente não exigiu segurança o

cliente não fazia questão de segurança e assim Vivendo muito tempo nessa área teve eu já ouvi isso diversas vezes né diversas vezes e teve até há muitos anos atrás teve um um exemplo que eu dei que ficou acho que bastante Claro ali para quem tava naquela reunião que foi o seguinte Fale você o cate não exigiu segurança você não fez segurança Bacana Então imagina que você vai na Chevrolet comprar um carro e aí o carro ele é entregue sem o freio seu cinto de segurança sem o ABS né Dando um exemplo hipotético obviamente né E

você infelizmente sair da concessionária com esse veículo tem por uma fatalidade né sofre um acidente e chega aí uma uma fatalidade maior né então isso aí realmente quando a família da vítima for processar agm agm Não mas esse cliente ele queria o carro ele não queria a segurança então Perceba como é ágil esse argumento né Ou seja a segurança deve ser a base de todas as soluções ninguém a não ser que seja um grupo né eventualmente ali que explore vulnerabilidades enfim coisas dessa forma ninguém nenhuma empresa idônea correta que é uma solução que seja insegura

Então você tem que ter um desenvolvedor fazendo a solução e esse desenvolvedor se ele for focado em segurança operacional aquele desenvolvedor focado em cibersegurança a solução estará cada vez mais segura mais preparada aí para não sofrer ataques ou para mitigar os efeitos né Eh de eventuais ataques durante a sua vida falando um pouquinho do privacy by design e Security by design a segurança da solução eh você imagina que a solução está sendo gerada tem um projeto essa solução ela vai ser ali Concebida né a partir desse momento se você eh hoje nós temos lgpd que

é a nossa lei de proteção de dados todos conhecem Com certeza Imagine que você pense a solução pensando na lgpd Então você monta uma solução que ela é estruturada para a LGP para atender os titulares de D são os usuários então Eh Imagine você ali como usuário eu tô dando exemplos assim bem práticos para para que todos acompanhem né Eu sou aqui usuário eu abro o meu celular e eu pego ali o aplicativo da Droga Raia por exemplo n e ou eventualmente da concessionária Chevrolet ou de um mercado enfim qualquer qualquer comércio possível né então

eu acesso a ali as informações pelo aplicativo e eu coloco minhas informações pessoais perdão Imagine que se a solução for pensada em privacidade aquelas informações vão ser usadas para aquela finalidade Então você tem que ter uma política de privacidade um aviso coisas que garantam né assim elementos que garantam que o titular pode usar aquele direito né E pode usar aquele aplicativo sem ter nenhum risco ali eventualmente de de ter violações de dados a o Security by design é a mesma coisa você estabelecer alguns testes durante a fase de produção daquela solução que garantam ali a

integridade daquela solução né então eu até cité aqui é um pouquinho mais técnico eu vou explicar rapidamente o sast dast né O sast que é aquele teste que ele vai analisar o código né então o desenvolvedor faz o código e é feito uma uma uma análise naquele código e para saber se aquele código fonte que é a base de toda a operação tecnológica se aquele código fonte realmente ele se sustenta ou se ele tem alguma fragilidade tem uma vulnerabilidade pode ser vítima de uma ameaça aí né então isso é bastante interessante agora quando a gente

fala já do Dust ele já é um teste mais em fase ali de execução Então você faz experimentos né você faz alguns ataques para entender se a ferramenta já ali claro que em fase de execução eu digo em fase pré-puberal a integridade daquela ferramenta se ela tem Portas Abertas vulner dá possibilidade de ataque e o iast nada mais é do que Justamente a junção desses dois testes inclusive no ambiente de sustentação eh pós-produção né É claro que esses são conceitos extremamente resumidos do que é cada uma dessas uma desses do do que é o cada

um desses institutos mas assim é para vocês terem uma ideia de quanto complexo é você desenvolver uma solução que não seja enviesada a gente vai chegar no ponto do viés eu vi que teve um comentário ali por cima sobre o viés né Eh esse é realmente a cereja do bolo porque o viés ele é um é um ponto extremamente delicado e quando você não controla o que o usuário coloca e a solução aprende com o que cada usuário coloca é bastante complexa essa questão e a gente vai tratar um pouquinho mais adiante por fim aqui

a questão da segurança da solução que é ali o é o trinômio sempre né Sempre baseado confidencialidade integridade e disponibilidade né você a a solução ela tem que ter aquela confi ela tem que ter confidencialidade se eu tô acessando aqui um determinado aplicativo de qualquer de qualquer entidade que seja por né maior que seja o exemplo esse esse aplicativo ele realmente ele vai ter ali uma ele ele não pode me permitir que eu veja informações de outras pessoas confidencialidade integridade a gente tá falando realmente das informações que estão ali cadastradas serem totalmente atualizadas e a

disponibilidade que eu consiga acessar essa essa plataforma f fando um dos três requisitos nós temos no mínimo incidente de segurança aí até coloquei aqui métricas um pouquinho mais avançadas da LP mas assim são boas práticas que tornam a solução mais segura e mais assim entre aspas utilizável né de uma forma tranquila pelo usuário falando um pouquinho da eu vou falar um pouquinho da legislação que a gente tem para vocês entenderem um pouco o contexto eh que essa o contexto legal que esse tema se estabeleceu no mundo e no país mas assim no Brasil a gente

ainda tá encaminhando a gente tá engatinhando um pouquinho né Eh não temos a infelizmente a legislação ainda sancionado então a primeira legislação que nós tivemos em âmbito mundial foi o artificial intelligence act né que é o ato de Inteligência Artificial da União Europeia da Comunidade Europeia da Europa então Eh novamente assim como aconteceu com a lgpd né gdpr veio muitos anos antes e mais uma vez a Europa lançando uma legislação bastante avançada e anteriormente aos outros países né Eh é claro que essa legislação ela é extremamente robusta é extremamente detalhada a gente vai falar quatro

cinco pontinhos aqui que são pontos essenciais para vocês terem noção e vamos aprofundar um pouquinho mais é claro na na legislação aí na no que a gente tem de contexto de legislativo Brasileiro né o primeiro ponto aqui da legislação europeia e boa noite a todos do chat aí que estão mandando o Boa noite Boa noite a todos com certeza o primeiro ponto é a questão dos aplicativos banidos né então Eh no no caso da dessa legislação europeia eh e ela só entra ela foi sancionada em 2024 3 de 2024 ela entra em vigor em 24

meses depois ou seja em 3 de 2026 né e o primeiro ponto é a questão de alguns aplicativos serem banidos então por exemplo o CFTV imagina que a pessoa usa aquele circuito de fechado de TV e ae tem o reconhecimento facial imagina que aia pode transformar aquela foto daquela pessoa numa Deep fake numa Deep Voice e fazer aquela pessoa ter ali aquela aquela figura aquela foto aquele dado pessoal sensível ali da pessoa né ter um ter ali ter a sua afeição eh deturpada ou distorcida né fazendo ali falando coisas que ela não disse e tal

Então esse foi o primeiro ponto ele proibiu aplicativos que possam gerar danos coletivos a cidadão a cidadão coletivos eh cidadãos europeus né Então esse é o primeiro ponto tem um ponto aqui também que é um ponto voltado à questão da identificação biométrica né A princípio nessa legislação tem a disposição de que a a identificação biométrica ela não pode ser usada pela polícia ela vai ser realmente utilizada só em casos que sejam casos voltados ali a sequestro atos antiterrorismo mas ela não pode ser utilizada não pode ser utilizadas eh Soluções de de biometria que tem a

inteligência artificial justamente pela questão que a gente já entendeu né que é uma questão você não controla o que a ferramenta gera e ali para não gerar a partir daí Cyber Cyber crime Cyber ataques então a legislação foi conservadora nesse sentido e algumas obrigações que estabeleceu também são os os chamados sistemas de alto risco então Imagine que você é o cidadão europeu eventualmente passou por um passou por uma checagem alguma coisa que possa ser que possa ter um um algum ali alguma característica de Inteligência Artificial e que comprometa a sua segurança você pode denunciar esse

aplicativo essa solução e a solução vai ser investigada imediatamente pelas autoridades europeias tá o quarto ponto é o requisito de Transparência né A questão do do requisito de Transparência é a questão justamente voltada ao que a gente falou no comecinho dos aplicativos banidos né qualquer eh solução que tenha eh de inteligên artificial pro contexto europeu que tenha uma possibilidade de gerar um dano pro titular de dados que possa gerar uma Deep fake né ou seja aquela aquela mutação ali né a pessoa pega ela pega o corpo de uma pessoa põe a cara da outra né

de forma bem assim geral e genérica para para todos acompanharem né e faz ali uma Deep fake né ou seja pega uma pessoa falando uma coisa que ela não disse ou eventualmente uma ligação de telefone um Deep Voice que a pessoa se passa por outra pessoa através de uma ferramenta de a tudo isso vai ser totalmente coibido pela legislação europeia e a questão a última questão também um ponto importante é o Apoio às startups então eu não posso se eu estiver na Europa e for um cidadão europeu eu não posso simplesmente abrir uma Startup para

fazer uma solução de a eu tenho que passar por processos regulatórios e eu tenho que ter essa autorização e uma uma checagem ali de integridade da minha empresa para fazer isso né trazendo um pouquinho já pro contexto do Brasil o que nós temos hoje no Brasil são três documentos assim mais oficiais né o primeiro nós temos duas normas ISO duas normas da bnt um regulamento técnico e uma Norma mesmo e nós temos também uma a legislação a legislação só que a legislação ela ainda não foi sancionada Então ela iniciou no senado teve uma série de

mentas eh no Senado e e várias alterações né Nós vamos chegar lá porque que teve tanto problema tantas alterações tanta discussão mas assim eh eh nós não temos ela hoje ainda aprovada ela foi aprovada pelo Senado voltou pra Câmara paraa casa revisora e ela ainda será eh né vai ser provavelmente terá novas novos textos mas a fase da consulta pública no senado já acabou ela voltou pra Câmara E aí sim depois da câmara que ela vai ser sancionada pelo presidente e nós temos essas essas duas normas da bnt o que que são as normas só

para assim contexto super assim introdutório né a norma da bnt ela tem ali conceitos e tem controles as empresas que seguem esses controles e passam pela Auditoria da bnt são certificadas e tem uma assim uma credibilidade muito grande naquele tema né Eh nós tivemos já oportunidade aqui na ntt de fazer a certificação de várias empresas inclusive de um de um banco enorme foi o primeiro banco da da América Latina que teve a certificação de privacidade e proteção de dados Então significa que aquela instituição segue controles e critérios muito rígidos né pros temas que ela trata

então o primeiro na falando um pouquinho das normas o primeiro documento que nós temos aqui vai ser realmente o relatório técnico o relatório técnico da ibnt que é o 24027 de 2024 ele é um relatório que ele traz quatro pontos fundamentais ele traz diretrizes Gerais e quatro pontos fundamentais da EA então primeiro a coleta de dados a coleta de dados no no no nesse caso seria você ter o maior número de dados possíveis ali em questões de características sociais demográficas culturais econômicas porque você garante dessa forma que a solução não seja não Gere resultados polarizados

então se eu faço uma pesquisa numa ferramenta de a em um determinado grupo uma determinada pessoa uma determinada etnia uma parte da população ou uma comunidade se sente ofendida ah el não está sendo assertiva Então você tem que ter ali métricas para coleta de dados né você não controla o que o usuário coloca mas você pode eh programar algumas métricas para que as coletas e as pesquisas que aí afaa para gerar resposta sejam pesquisas íntegras e que não Gere resultados por exemplo discriminatórios né um outro ponto que o relatório também traz é a questão do

aprendizado contínuo a máquina ela tem essa questão de aprender né então a eh ela realmente a gente tá numa fase hoje hoje no começo bem no começo sei lá 5 10 Anos Atrás a gente falava muito em machine learning né que é o presado da máquina né Ou seja você é a máquina aprendendo com o ser humano hoje nós já estamos na fase do Deep learning né o Deep learning é o que o pessoal chama de redes neurais né que é realmente associado ali às redes neurais do cérebro humano então a máquina tá num processo

já de de conhecimento profundo da da estrutura das informações e fazendo assim uma coordenação muito estruturada de resultados né então um exemplo muito claro disso se você pegar qualquer assistente virtual ela tem ali um não conhecimento mas ela tem respostas que não são tão assertivas quanto as máquinas que já T um Deep learning mais aprofundado são soluções que a gente já tem no mercado né e várias várias né Cada dia surgem novas então a gente tá já nessa fase e é uma fase de aprendizado contínuo da máquina eh projetos testes e avaliação e uso né

Realmente a a ia ela ela é uma ela é uma tecnologia muito complexa você tem que ter tudo muito bem documentado e você não pode colocar nada no mercado que gere ali eh qualquer qualquer caractere de discriminação Então imagina só uma ia que por exemplo gera uma resposta que ofenda pessoas isso é totalmente inviável né Principalmente hoje em dia não isso é inconcebível então você tem que testar muito bem fazer os testes projetos e fazer avaliações contínuas depois que a i já está já está em uso né O que a gente chama de sustentação em

tecnologia Então isso é muito importante esses quatro pontos o relatório técnico ele dá diretrizes gerais sobre esses pontos e vem a norma realmente a norma ABNT que traz os pontos que são os pontos de controle aqui ficou bastante texto eu vou falar de uma forma bastante resumida assim Imaginem que esses controles que coloquei aqui S um resumo de mais de 60 páginas aí de de norma ABNT Então acho que deu para dar uma uma sintetizada melhor né porque realmente é a norma ela é muito ela é muito grande né uma Norma realmente muito muito abrangente

o primeiro ponto é a questão da assertividade a gente vai chegar aqui dois slides para frente a gente vai ver como que é i pode ser assertiva como que a Ea pode você pode Minimizar efeitos de eventuais tes de eventuais mas assim o qual que é o primeiro objetivo aí ela precisa atingir os resultados se eu fiz uma pergunta ela tem que me dar uma resposta Imparcial uma resposta equânime uma resposta que não faça ali eh que não tenha que não tenha nenhum caráter nenum viés político ou doutrinário ou religioso ou relacionado a orientação sexual

nada disso eu perguntei Ah ela tem que me responder realmente o b ela não pode ir a lei né ela não pode dar uma opinião moral enfim Então esse é o prime primeiro ponto que traz a norma né o segundo ponto é a questão da análise de risco a análise de risco de a e a avaliação de impacto do sistemas de a são coisas diferentes e que se relacionam Por exemplo quando eu vou desenvolver um EA eu tenho que saber realmente ali quais são os impactos que essa ia pode gerar na sociedade provavelmente impactos bons

impactos ruins e eu tenho que testar principalmente os ruins que é o que a gente chama de teste de stress para saber como ela se comporta mas só mente esse Impacto pode ser ainda mais destrutivo se não for feito então eh a a norma que a bnta 421 Ela traz realmente passo a passo como você faz uma avaliação de impacto da Iá na sociedade ou seja você fazer estudos para que as respostas que a i agere não possa promover ali uma qualquer tipo de informação falsa ou qualquer tipo de eh não assertividade que possa gerar

inclusive conflito sociais enfim em um mundo polarizado como está o nosso isso é eu acho que é essencial no processo todo né porque a gente antes da Iá a polarização já existia e se agravou então Imagine se você tem ali uma ferramenta que é dotada de preconceitos vieses e que gere novos preconceitos e que inflame ainda mais esses vieses então esse a tanto avaliação de risco quanto avaliação de impacto social são coisas extremamente relevantes e sem esses pontos você não consegue ter uma ia assertiva e que some na sociedade ao invés de assim contribuir paraa

sua destruição né em termos assim de em termos sociológicos e sociais também aí né então a gente tem também a questão da documentação evidenciada que não é um benefício exclusivo de a né todas as soluções se a gente pensar num num assim no mundo perfeito claro que nós sabemos que não é assim né mas em tese todas as soluções de ti Elas têm que ser extremamente comentadas evidenciadas no caso Daia ainda mais porque ela gera respostas autônomas a partir do input de usuários Então você realmente não pode de forma nenhuma ter uma ter uma ter

uma solução desse desse importe desse peso social sem ter uma documentação do que você fez do que você desenvolveu no código Quais foram os ambientes que você testou quais as circunstâncias quais as suas fontes de coleta de dados Então tudo isso tem que ser extremamente não só executado como documentado também né e um outro ponto aqui e isso também se encaixa com o processo definido né Você tem um processo formal de desenvolvimento da solução e documentado Então acho que são esses dois pontos e o último ponto aqui a questão ali dos dos controles e requisitos

normativos né a ia ela tem eh a ia não perdão a norma ela tem um ponto específico para a questão da gestão de mudanças Então você tem aquel dando aquela resposta naquela circunstância naqueles dados e você muda os inputs você tem ali eh eh eventos sociais que acontecem e outros outras questões políticas sociais econômicas que geram tipos diferentes de consulta né então a norma realmente aqui a norma benit ela preveu isso como você faz essa gestão de mudanças num contexto que muda tanto quanto a nossa sociedade né e acho que é uma da acho que

a tecnologia é uma das poucas ciências que consegue acompanhar aí a evolução da sociedade né então é muito importante tá pessoal essa Norma ela é realmente as as empresas que T essa Norma são empresas que são muito reconhecidas empresas que são credenciadas né pessoa uma uma uma pessoa jurídica certificada pela 421 é realmente uma empresa que tem muito compromisso com a ética ali o comprometimento da da integridade da solução né então é é bem bem bem bacana vários requisitos mas assim é um investimento que vale muito a pena porque você tem credibilidade e a sua

solução com certeza vai ter uma adesão maior no mercado entrando um pouquinho aqui na cereja do bolo eu acho que aqui é a parte que que realmente a gente quer falar né e quer quer discutir que é a questão do viés dois pontos pegaram muito nessa tramitação que teve no nosso projeto de lei de a aqui do aqui do do Brasil né eu participei de algumas reuniões inclusive de órgãos voltados aí à tecnologia algumas associações que representam empresas eh que são Do mesmo do mesmo Grau né do mesmo ali segmento da empresa que eu trabalho

e eu participei também ali tive o privilégio de de ouvir ali as os debates nas nas comissões técnicas e tal e assim os dois pontos assim campeões e sem sombra de dúvida muito à frente dos outros que travaram não que travaram se a gente for pensar bem começou em 2023 a tramitação no Senado e saiu agora voltou pra Câmara né no finalzinho do ano passado então foi um processo rápido até comparado com outras leis né porque é um tema realmente quente mas assim os pontos que pegaram mais foi a questão da responsabilização das empresas e

a questão do viés então de forma bastante simples resumida aí o que aconteceu nesses 12 meses eu explico para vocês de uma forma bem simples assim é o seguinte o que que a gente teve questão da responsabilidade o que aconteceu foi muito simples as pessoas realmente primeiro elas eh imagina a empresa que desenvolve eh a ia né Eh im a empresa que vai desenvolver a ia tem aquela tem aquela noção que é o seguinte olha se der um problema se se a começar por exemplo a ser não não eu não conheço o seu negócio você

pediu para eu desenvolver estou desenvolvendo e a empresa que contrata também não olha se você você é um especialista você que precisa saber o que que você está desenvolvendo Então esse a questão da responsabilidade ficou muito discutida essa foi uma Bola Dividida assim por mais de se meses e e ficou nessa não quem que é responsável por quê Por que que né então fica muito difícil eh esse tipo de regulamentação porque assim como toda a plataforma gente se a gente for ver eh Inclusive eu recomendo assistam né Eh o dilema das redes todo mundo aqui

já assistiu assistam de novo da Netflix que fala Exatamente isso né Você lança uma solução no mercado ela Tom uma vida própria porque tem usuários que colocam inputs então e na ia não é diferente só que a ia ela ela vai aprendendo e o que você desenvolveu ela vai aprimorando então é um pouco mais mais delicada essa questão Então essa questão de responsabilidade tanto das empresas que contratam serviço quanto das empresas que desenvolvem deu muito problema Então esse foi um ponto aí que atrasou bastante o processo e o ponto que é mais crítico na minha

humilde opinião é a questão do viés o que que é o viés o viés é o preconceito então por exemplo imagina que a pessoa eh aí ela é programada por um ser humano certo então Eh eu vou até passar o slide que vai ficar mais fácil de explicar aqui ó esse daqui é é a carinha do viés que tem na Norma da bnt da ISO como que surge o viés indesejado que é a ferramenta criando um preconceito ou fomentando um preconceito uma polarização que já existe então você tem a característica dos dados em si Porque

você coloca lá imagina que você tá consultando lá determinada ferramenta x de de Inteligência Artificial você pegou colocou lá aquela ferramenta né Vai ter o que que a ferramenta faz ela vai vai ser vai pegar aqueles dados vai ler aqueles dados e vai gerar uma resposta Então como que surge essa questão do do do viés indesejado primeiro surge da característica do dado porque o dado em si ele já pode depende da interpretação certo você tem uma base de dados que ela pode ser uma base de dados que contenha sujeitos ou pessoas ou patrimônio do tipo

a b e c Isso você já consegue fazer uma separação o desenvolvedor ele também é uma pessoa humana então ele é uma pessoa que ele tem uma experiência de vida e que ele já tem os seus próprios ali seus próprios suas próprias opiniões e e assim ideologias crenças e tal então a gente tem aqui vieses a característica dos dados e os vieses já que são vieses são são opiniões das próprias pessoas né isso somado gera um viés indesejado Então qual que é o medo na prática de tudo isso você gerar fazer uma pergunta para mi

qualquer e ess a Gerar uma pergunta que seja polarizada né então eh a polarização em qualquer sentido ela deve ser evitada Então seja no sentido político A ou B seja no no sentido étnico A ou B ou C no sentido de orientação ó Qual que é o resultado no fim do dia na prática o que aa precisa é te dar uma resposta sem nenhuma uma visão de moral sem nenhuma uma resposta objetiva ao que você perguntou ponto final isso é bonitinho na prática né Aliás na teoria Agora imagina na prática que vai ter pessoas que

são polarizadas né em um determinado sentido outro e vão colocar lá informações que são totalmente desconexas e para fazer e aprender coisas que não devem Então como que você evita isso né esse é o ponto acho que principal aqui da apresentação que é quais são as melhores práticas que você pode adotar para que a ia não Gere eh assim resultados totalmente polarizados loucos e enfim e fomente ainda mais o caos social que a gente já já vive hoje né tem algumas boas práticas Então a primeira delas a gente falou que é a coleta de dados

os dados que estão na pesquisa precisam ser os mais diversos possíveis você precisa ter dados sociais demográficos e e regionais culturais econômicos mais diversos porque aí ela não pode se limitar só a uma fonte de pesquisa então base de dados grande de coleta o segundo passo é você sanitizar os dados o que que é fazer uma limpeza realmente ali e a gente tá falando aqui da ia né da da solução antes de Tá de tá aberto ao público tá ali desenvolvendo a solução base de dados mais abrangente possível faz um filtro desses dados e seleciona

os dados que são os dados que realmente ali vão eh são Dados não polarizados vão vamos dizer assim dados neutros né A A partir dessa base de dados neutros a gente tem o teste de Equidade teste de Equidade assim você tem vários conceitos para Equidade tem conceito sociológico jurídico pra gente facilitar o máximo possível aqui se a gente der as pessoas a condição que elas precisam para ter as mesmas oportunidades vai est falando de Equidade que que isso significa na ferramenta significa que a ferramenta ela tem que tratar as pessoas de uma forma igual de

uma forma ímpar ali eh de uma forma né assim linear você não pode ter uma você não pode mudar sua resposta Porque dependendo do da pessoa que perguntou entendeu então é uma linearidade que que a ferramenta precisa ter mas meu fiz assim Pessoal fala né Às vezes eu desenvolvi fiz o test de Equidade de errado então você tem que ajustar os parâmetros você tem que ajustar sua pesquisa ajustar sua fonte de dados e ajustar ali fazer fino para saber exatamente onde que tá tendo porque pequenas pequenas modificações na busca pode gerar resultados catastróficos então é

muito importante isso inclusive eh o teste de Equidade tem aqui no no outro Bullet o teste de stress que é exatamente isso quando você chega num ponto que você acha que a solução tá perfeita aí é a hora de começar a trabalhar mesmo né a gente brinca porque aí tem o teste de de stress você vai mudar tudo que a que a que a ia aprendeu e vai colocar ela num contexto social político eh to religioso doutrinário enfim totalmente diferente para fazer a mesma pergunta e ver qual que é a resposta que ela dá então

quando ela te começar a te dar respostas corretas coesas e sem nenhum viés de discriminação para qualquer tipo de lado então você tá numa solução que está começando a ficar eh nós temos também outras outros pontos né registro documentação esse ponto aqui da equipe multicultural para mim é muito importante porque se você tem uma equipe que é muito a pessoas que são muito Iguais por exemplo ó pessoa que tem a mesma formação que passou pelo mesmo contexto de vida e tal perdão pessoa desenvolvedores que são da mesma faculdade Essas pessoas vão desenvolver uma boa solução

óbvio que vão só que eles não vão considerar outras hipóteses de eventuais perguntas que são fora da realidade dessas pessoas Então quanto mais multicultural for a equipe menos a ia vai ter o risco de ser eh enviesada ou não assertiva é muito importante que as equipes sejam mais misturadas possível porque isso faz traz uma riqueza no desenvolvimento da solução e faz a solução sempre D respostas que não tenham nenhum viés nenhum dano que não Gere dano a ninguém né Eh tem algumas É lógico que tem algumas técnicas um pouco mais aprofundadas para você assim deixar

a ferramenta realmente mais assertiva que por exemplo os dois últimos bullets aqui algoritmos de mitigação de vz e análise de sensibilidade né isso é assim são são ferramentas dentro do universo da Iá que você consegue fazer aquele ajuste fino de pequenas pequenas perguntas gerarem respostas catastróficas né então isso é muito legal e eu acho que um ponto também que é muito importante é a cultura Responsável a cultura responsável ela significa o seguinte se qualquer pessoa da equipe que tá desenvolvendo tem uma tem uma ideia de que aquilo pode gerar um viés uma uma discriminação pode

gerar uma resposta que não seja eh no mínimo Imparcial ela tem que se sentir à vontade porque se ela não fala e a ferramenta sobe pra produção e fica disponível no mercado e gera um viés Então você fez um erro no seu processo de desenvolvimento então assim todos da equipe tem que ter tem que ser uma equipe multicultural e todos têm que est à vontade e falar isso pode gerar a resposta tal que pode dar um problema de tal resultado então isso são coisas que devem ser previstas antes da ferramenta subir E se a gente

faz esse esse basicão aqui esse arroz com feijão que tá aqui junto com as questões de privacidade e segurança a chance de sucesso né que a gente comentou no começo privacidade e segurança a chance de sucesso aumentar muito então basicamente são esses pontos tá pessoal passando aqui já pro finalzinho da nossa apresentação para não atrasar ninguém eu sei que todo mundo quer ver o Jornal Nacional e outros programas também enfim Eh vamos falar um pouquinho da jornada e a no mercado O que que a gente acha assim mais questão de tendência né Eh eh primeira

coisa acho que a gente tem que falar dos impactos positivos né Eh com relação a impactos positivos imagina uma grande quantidade de dados que a ia pode filtrar para você que ela pode gerar um relatório para você perdão hoje eu tô com um pouquinho de tosse éo tempo seco Se bem que Aqui choveu um pouquinho mas foi bem pouquinho chovar de verão Então imagina o seguinte você tem uma grande quantidade de dados e E aí pode de automatizar isso para você ela pode gerar ali um repositório para você pode filtrar pode gerar uma reunião pode

gerar um relatório da reunião que você fez automatização assim vai aumentar a eficiência inclusive um ponto que eu escuto muito e que eu gosto muito de repetir Porque para mim é certo né aí ela não vai tirar o emprego de ninguém né O que vai acontecer é que pessoas que sabem trabalhar com ia vão ter uma produtividade melhor mais rápida mais eficiente porque realmente é uma realidade hoje né então automatização ponto extremamente importante previsibilidade se você tem também ali essa questão de conhecer como O mercado está né na sua área de atuação enfim e ter

também o suporte da ia é muito importante uma coisa que assim eu não falei acho que assim é é justo e ético da minha parte comentar também né a ela não é 100% certeza acertiva nunca usem sempre aa como uma fonte complementar de consulta né não não não não adotem a como a tá se eu perguntei pro pra ferramenta x Tá certo e x não não tô falando do Twitter tô falando x x y z entende então Tenham sempre isso em mente a tem que ser complementar ao seu trabalho Nada vai suprimir o seu estudo

nada vai suprimir realmente conhecimento as suas formações aí ela não vai fazer isso tá ela é realmente um auxílio um suporte isso tem que ser levado muito em consideração para que enfim não Gere aí um resultado de comodismo social e e você fique ali com a superficialidade do lençol né realizando as suas atividades aí ela tem que ser uma fonte eh complementar de consulta pode ajudar sem dúvida que muito e já ajuda Inclusive eu uso diariamente pro trabalho mas assim sempre consulte sempre tem ali as fontes oficiais que já existem né para para se formar

enfim para para estudar que realmente é muito importante é suporte a tomada de decisão de decisões e inovação claro que são dois pontos também se você tem uma análise de mercado que pode ser bem feita por um profissional é claro que você pode também fazer algumas perguntas e ter alguns insights de a né Isso é muito muito relevante a gente por exemplo na nossa empresa a gente desenvolveu uma semana que chamou dec perdão nós entrevistamos todos os executivos da empresa para falar de privacidade utilizamos o aa como um suporte ao nosso trabalho então fizemos algumas

perguntas para Iá adotamos alguns tivemos insites né E claro que essas decisões são baseadas em fundamentos até um pouco mais concretos né mas é lógico que a ia é um excelente meio de pesquisa e de consulta e para você fornecer ali para você ter acesso a a insights aí aqui os dois últimos slides a gente vai falar um pouquinho do que que socialmente significa Inteligência Artificial como Impacto negativo e positivo a gente levantou quatro pontos Claro que não são todos né enfim nem daria para falar em uma hora todos mas a gente vai falar realmente

o que são os três Poxa William eu vi seu comentário aqui perfeito ataque de evasão e envenenamento extração de modelo muito bom aí legal que o chat tá quente tô gostando continuem então aqui quatro pontos importantes que a gente tá comentando quais são os impactos negativos e aí a gente vai nos próximo slide a gente vai ver como mitigar os efeitos desses impactos tá segurança e privacidade é claro que é sempre um ponto né a segurança e privacidade não é um risco só em a é um risco em soluções de tecnologia então eu costumo dar

um exemplo muito simples e que porque nem todo mundo tem a clareza do da diferença desses conceitos né então sempre comento com a minha equipe e a minha equipe hoje já fala esse exemplo paraas outras pessoas também quando você tem aquela aquela casa eu tenho certeza que a minha equipe tá falando entre eles agora que eles já sabem qual que é o exemplo mas assim quando você tem aquela casa nos jardins com cachorrão e com com né te o guarda e ele tem ali um carro de o carro de da da Vigilância e tal e

você tem tudo isso protegido você tem segurança dentro dessa casa aqui do Jardins vai ter também um cofre lá dentro então Imagine que o ladrão eu tô dando um exemplo só para explicar mesmo o ladrão ele conseguiu burlar o Cachorrão o segurança o a biometria entrou na casa Opa tivemos um incidente de segurança ele abriu o cofre ele encontrou passaporte então ele conseguiu violar também a privacidade isso por a segurança é o contexto externo da ferramenta é o que permite que a ferramenta tenha integridade disponibilidade e tal e a privacidade é a questão dos dados

pessoais Então nem todo incidente de segurança é um incidente de dados pessoais e nem todo incidente de dados pessoais aliás e todo o incidente de dados pessoais gera AL um uma uma um é é necessariamente um incidente de segurança né então você a segurança Imagine que ela é é realmente a segurança ali em do Entorno né e depois a gente tem ali o incidente de privacidade que tem a questão ali realmente que são os dados pessoais isso é tanto pro aplicativo do seu banco quanto da da sua empresa de telefonia quanto da sua farmácia quanto

do seu mercado tá você tem medidas de segurança e se essas medidas são rompidas você pode ter acesso a dados pessoais segurança e privacidade é claro que isso pode ser usado para fim criminoso né Então imagina que o hacker ali inclusive para usar terminologia certo o Cracker ali né ele desenvolve uma solução que ela é um bote de ataque né E que conforme ele vai atacando ele vai tendo insights através da EA de quais são as portas que ele pode atacar mais é uma determinada solução pode ser usado para fins criminosos é óbvio todas as

soluções podem ser exploradas né e vai dar certo algumas sim outras não então nós temos essa essa questão da exploração para fins para fins aí eh criminosos é um problema muito grave né propagação de vieses que é o que a gente falou né ou ela cria um cria ali uma polarização que não existe ou fomento uma polarização que já existe e a regulamentação não sancionada então esses quatro pontos são pontos que ainda são negativos mas mar como que a gente resolve esses quatro pontos então não tem e Ah é ruim não negativo então a a

primeira questão segurança e privacidade a gente mitiga os riscos assim no máximo possível né mas com as questões que a gente comentou no comecinho você fala pensando na solução mas primeiro antes da solução como que vai ser a segurança dessa solução o que que eu vou colocar de medida de dlp enfim de medidas ali para o acesso da solução como que eu vou preservar os direitos dos clientes que estão nessa solução Como que essa solução pode ser o mínimo eh o mínimo radical possível que ela seja só assim a resposta técnica segurança e privacidade então

é uma questão ali de você fazer um desenvolvimento né um um deployment que a gente chama bem feito para que quando as soluções estejem assim sendo realmente utilizada esteja 100% utilização para fim criminoso Esse é o maior medo Aí de todo mundo né então é claro que você tem não só na questão do da utilização de fens criminosos a gente tem não só a solução permitindo que isso aconteça permitindo entre 300 aspas né mas permitindo que isso aconteça possibilitando melhor dizendo que isso aconteça por eventualmente um erro de código um erro de desenvolvimento né eventualmente

um problema de credencial gestão de acesso e tal como também uma questão do próprio usuário eventualmente um usuário que faculta ali suas credenciais outras pessoas Então não é só uma questão da s em si ser segura mas é importante que os usuários saibam o que eles estão usando e façam assim fazendo a o que a gente chama de o básico ali já é é o suficiente né você não compartilhar credenciais não clicar em links que não conhece enfim isso não é só nem para iada para todas as soluções aí de tecnologia que estão no nosso

dia a dia cada vez mais presente eh Será que a ia vai devorar o mundo talvez aí se a gente pensar no contexto talvez do Pink o cérebro né mas a ia a ia realmente ela é um ela é Ela já é o presente e ela vai cada vez ser mais presente eu não acho que a gente vai chegar tão cedo na Skynet mas pode ser uma tendência então propagação de vezas e preconceitos é o que a gente falou antes também né Você tem uma equipe multidisciplinar multidisciplinar no sentido de que são grupos formados E

que esses grupos TM que ser totalmente multiculturais e que você tem que fazer testes na ferramenta de stress Ah mas a ferramenta ela deu a a resposta a b e c perfeita D ef totalmente polarizada Vamos trabalhar na D eif vamos estressar a tela D aade eif Vamos mudar Aí quando você conseguir todas da a até a f perfeitas respostas sem nenhum tipo de problema aí você vai mudar o tipo de pergunta vai mudar a condição social vai mudar ali então tudo isso num ambiente controlado para que a ia seja o mais assertiva possível Com

certeza Vocês ouviram aquela primeira e a de muitos anos atrás é exato dos Robôs do El vocês viram eh Há muito tempo atrás aquela primeira e da Microsoft ficou poucas horas no ar porque as pessoas foram testar né a Microsoft Foi testar e realmente a ferramenta se tornou extremamente assim polarizada em vários sentidos é claro né era era um experimento muito Inicial hoje A Microsoft é um dos grandes players de a excelente mas assim como é uma evolução né O importante é como essa evolução como que a gente chegou nessa evolução desenvolvendo testes né colocando

a ferramenta em coisas mais ali mais realmente mais no ambientes mais hosti então basicamente é isso pessoal queria agradecer mais uma vez aqui estão os os links aqui da isaca que eu agradeço mais uma vez Ronaldão Muito obrigado guerra todo o pessoal da isaca é muito legal est com vocês eu só não fui nos outros we Hours porque eu tava trabalhando bastante e vou nos próximos Marcelão em nome do capítulo da isaca São Paulo eu agradeço o seu tempo aí agradeço a ótima apresentação que você fez agradeço a parceria o carinho que você tem pela

gente né Você vem ajudando você sabe que a gente tá aí reformulando esse capítulo né que é um capítulo tão antigo né com tantas pessoas boas que pode estar ajudando a gente então assim convido aí quem não participa começar a par pá né E E assim a gente tem bastante coisa aí pra gente poder fazer juntos né um capítulo de todos eh então como eu tinha prometido aí no começo a gente eu acabei fazendo um sorteio aqui tá para para poder sortear dois cursos de cips tá então assim o primeiro pré-requisito para poder levar o

treinamento é Tá seguindo o o o capítulo da isaca link tá então assim eh eu vou sortear aqui um dos sorteados foi o Leonardo Vilaça Ele ainda tá por aí Leonardo não acredito Leonardo que legal que legal e o outro foi o William Ross que acabou de mandar uma mensagem aí muito bom muito bom parabéns moçada Parabéns que legal façam é um curso que vale a pena é então oô o pessoal que ganhou o treinamento aí entra em contato com a gente lá pela página do LinkedIn tá esse treinamento já tá no forno o guerra

já tá fazendo treinamento aí que vai sair se eu não me engano no próximo mês um treinamento muito legal até eu vou fazer tá certificação é uma certificação que traz um diferencial tremendo profissional de mercado de privacidade só um minutinho aqui a direita então assim vamos lá pessoal vamos fazer acontecer Vamos pro nosso happ hour aí que vai ter logo logo aí eu coloquei a data aí no chat tá Marcelão mais uma vez obrigado de coração e vamos se falando Eu que agradeço satisfação pessoal boa noite a todos Obrigado pela participação aí um grande abraço

boa noite pessoal boa noite tchau tchau obrigado