Unknown

Minimizar vulnerabilidades e de alguma forma mudássemos uma trajetória acreditamos que sim isso é possível e por isso desde 2003 apoiamos projetos inspiradores com objetivo de incentivar o protagonismo social acreditamos que podemos gerar o impacto hoje para que versões cada vez mais felizes dessas histórias possam ser escritas no futuro próximo Instituto CPFL energia que transforma realidades Olá pessoal queremos Compartilhar este momento com vocês 2023 O Café Filosófico CPFL faz 20 anos são mais de 950 palestras realizadas mais de 3.000 horas de gravação mais de 2.000 episódios na TV Cultura uma comunidade digital com quase 1 milhão

de pessoas 10000 vídeos no YouTube com mais de 42 milhões de visualizações nesses 20 anos construímos mais que números construímos relações e conectamos histórias tudo isso só foi possível porque você faz parte dessa história o café agradece o time técnico agradece a todos os nossos amigos palestrantes e curadores e agradece em especial a você para ter uma pequena amra dos assuntos que tratamos aqui nessas duas décadas vamos ver alguns apresentadores que fizeram parte dessa história Olá no Café Filosófico uma parceria TV Cultura e CPFL energia Como se dá a relação amorosa nos casais modernos como

nasce o desejo o que as mulheres sempre esconderam dos homens e Delas mesmas temos mais medo hoje do que tínhamos no passado o homem sempre foi esse animal atormentado o tempo inteiro estamos diante de pequenas e grandes decisões Isto ou Aquilo certo ou errado bom ou mal pode ou não pode para que esta chama não se inflame dentro de nós incendiando tudo ao redor o que fazer quem infringiu a lei da eternidade que não permite recomeçar a vida se o ócio é realmente o começo de todos os vícios então ao menos ele está bem próximo

de todas as virtudes aprendi que minha força é justamente conhecer todas as fraquezas que sempre apontar em minha pessoa forma a configuração do trabalho contribui para modificar a composição social brasileira e faz surgir uma nova classe média hoje vamos nos perguntar existe uma droga do bem a arte é um meio de sentir o do objeto aquilo que já se tornou não interessa arte e a busca de cada um é uma para que ser a ficção para explicar e interpretar aidade humana através da Fantasia [Música] [Música] [Música] boa noite sejam bem-vindos a mais uma gravação do

Café Filosófico CPFL Obrigado a todos os presentes aqui em Campinas paraa gravação e Agradeço também quem está acompanhando a gente tanto pelo Instagram quanto pelo YouTube e faço o convite para vocês se inscreverem no nosso canal para saber mais sobre a nossa programação primeira mão e também para verem os conteúdos são e mais de São Pratic são 20 anos de conteúdo então é praticamente um vídeo novo por dia que a gente sobe no nosso canal faço convite para vocês se inscreverem no nosso canal para desfrutarem dos vídeos e também saberem da nossa programação e hoje

a gente dá continuidade ao módulo Inteligência Artificial submissão e subversão com a curadoria da Gisele bagan e a palestrante de hoje é Fernanda Bruno com o tema máquinas de visão e controle pro por favor recebam com aplausos a convidada da [Aplausos] noite Fernanda é coordenadora do programa de pós-graduação em comunicação e cultura da UFRJ e do Mia Lab pesquisadora do CNPQ cofundadora da rede latino-americana de Estudos em vigilância tecnologia e sociedade lavitz e pesquisadora colaboradora do surveillance studies Center da Queens University no Canadá Fernanda a palavra é toda sua bom Café Filosófico Boa noite prazer

est aqui quero começar agradecendo a toda a equipe né do Café Filosófico ao André deque Marta Gabriela Manuela e a todos que estão aqui e um agradecimento muito especial à curadora Gisele bigam que tá eh nos convidando né para essa série sobre inteligência artificial eh e um um uma salva um salve né uma saudação especial eh à minhas parceiras de série que a lenda Gisele a Larissa Macedo né que falou eh na semana passada e a Bia Ritz que vai fechar essa série eh bom agradecer vocês também pela presença o público que tá aqui o

público que assiste a gente no YouTube Bom vamos lá né máquinas de visão e controle é um tema que como Café Filosófico eu pesquiso há cerca de 20 anos eh eu ah quero começar falando eh lembrando né que a a história da visão né e a história do controle eh São é uma história atravessada né Por tecnologias e por aparatos técnicos né e é uma história de conexão entre humanos e máquinas por mais que hoje a gente viva uma intensificação eh da penetração né da dimensão maquínica e da dimensão técnica no no campo eh da

visão e no campo da produção de imagens no campo da produção do que a gente entende como sendo eh o domínio do ível né Essa é essa história ela é longa Ela não começou ontem né Eh e a gente pode dizer com alguma tranquilidade que a história social e cultural da Visão é inseparável da mediação técnica Talvez não tenha mais como a gente se lembrar o que que poderia ser uma visão não mediada Tecnicamente eh desde o mais antigos instrumentos óticos né passando pelo telescópio microscópio raio x fotografia cinema vídeo depois né mais tarde né

satélites tecnologias digitais sensores ferramentas de geolocalização câmeras de vigilância drones etc eh e os aparatos técnicos têm eh partilhado conosco o nosso modo de ver o mundo né Tem transformado o alcance a escala as fronteiras as perspectivas as práticas e os nossos modos de ver de uma forma geral né e o mesmo Vale pro controle eh os modos de exercício do controle também sobre corpos sobre indivíduos sobre territórios sobre populações também é inseparável da mediação técnica eh não apenas ah o o a a tecnologia incide sobre Eh Ou melhor é uma não apenas a tecnologia

uma ferramenta do controle como ela é ã determinante eh do modo como o controle se exerce né ela altera o modo como controle se exerce ã para dar um exemplo relativamente próximo de nós as máquinas eh da chamada revolução industrial ou do chamado capitalismo industrial eh não apenas eh transformaram ou amplificaram né as escalas de produção o modo de trabalho o processo produtivo né mas exerceram Inventaram um novo eh tipo de controle sobre o tempo né e o corpo dos trabalhadores produzindo o que Michel ficou muito conhecidamente chamou dos corpos dóceis né corpos úteis do

ponto de vista eh da economia e da eficiência né e obedientes do ponto de vista eh político né o mesmo ocorre depois com a chamada revolução digital que passados os primeiros anos De euforia e de promessa de mais Liberdade com as tecnologias digitais né Promessas de democratização da informação da comunicação etc esse aparato eh de tecnologias digitais também se mostra um aparato um imenso aparato eh de controle e de vigilância então esses esses eh domínios convivem né Eh em muitos momentos inclusive visão e controle andam juntos né e as máquinas de visão são também máquinas

de controle eh em muitos casos e e e isso acontece em alguma medida continuando a própria história da Visão como um sentido privilegiado de de de conhecimento e de controle na história ocidental né tem muitos autores eh O Martin Jay o Richard hort entre Outros tantos que vem mostrando quanto que a visão né no no espectro dos nossos sentidos Diferentemente do tato ou da audição etc o quanto que a visão tem dominado né tem sido eh Central na história ocidental no Exercício eh como sendo eh o o o o sentido privilegiado eh tanto da produção

de conhecimento quanto da produção de controle porque quem conhece quem tem o saber é também tem o poder né sobre as coisas e sobre eh o mundo né Isso tá claro no próprio vocabulário epistemológico né a ideia de especulação reflexão ponto de vista observação perspectiva né todos esses essas metá foras escópico do que é conhecer e remetem a visão bom eu vou est justamente explorando essa interseção das máquinas de visão e das máquinas de controle eh ao longo dessa nossa conversa aqui ah com um foco mais voltado pro mundo contemporâneo e Mais especificamente ainda para

eh pro ingresso né do que a gente chama de inteligência artificial no campo e das tecnologias de visão e de controle eh um dos autores que talvez mais tenham insistido nessa conexão entre visão e controle eh talvez tenha sido P virili né o arquiteto e e intelectual pili e eu separei pro vou pedir pro Kiko ler um trechinho eh uma citação do de um livro do virilon que se chama que na verdade um ensaio que depois deu o título a um livro que se chama justamente máquinas de visão eh e esse texto vejam bem é

de 1988 então Eh o veril sempre teve fama na na na no no mundo acadêmico intelectual de ser um sujeito muito catastrofista muito pessimista e e em 88 eh felizmente ou infelizmente ele já via de alguma maneira alguns indícios do do mundo que estamos vivendo hoje então por favor a se o Kik puder ler eh pra gente aí essa citação agora os objetos me percebem escreveu o pintor pa nos seus cadernos essa afirmação no mínimo surpreendente tornou-se em pouco tempo objetiva verídica já não se fala da produção pró de uma máquina de visão Capaz não

somente do reconhecimento dos contornos de uma forma mas ainda de uma interpretação completa do campo visual da encenação próxima ou distante de um ambiente complexo não se fala ainda da possibilidade de uma visão sem olhar em que a câmera de vídeo será submetida a um computador Este último assumindo para a máquina e não mais para um telespectador qualquer a capacidade de análise do meio ambiente a interpretação automática do sentido dos acontecimentos nos domínios da produção industrial da gestão de estoques ou ainda da robótica militar bom a gente vai ver ao longo da minha fala que

uma série desses elementos ou dessas características do que ele chama de uma máquina de visão tão em operação hoje eh uma outra referência incontornável que eu já mencionei aqui brevemente é o Michel Foucault no seu famoso livro vigiar E punir onde ele vai definir a modernidade né como uma época uma era da vigilância mas eh eu gosto muito de uma frase eh cujo eh sentido né Desse dessa perspectiva que ficou traz no no vijai punir eh tá muito genialmente condensado ao meu ver né num dado momento do do do livro ele diz o seguinte a

visibilidade é uma armadilha Eh claro que tem muitas camadas né de sentido nessa nessa frase né a gente não tem tempo de percorrer aqui todas elas mas fundamentalmente eh o o o que o ficô tá tá trazendo né com essa com essa eh fórmula aí condensada é que a criação de um objeto ou de um domínio visível né é ao mesmo tempo ou pelo menos desde a modernidade um modo de captura eh ou um modo de exercício eh de poder e de controle então tornar-se visível é também estar-se eh mais a mercê eh do do

controle da vigilância eh e do Poder então Eh e sobretudo a modernidade segundo ele se caracteriza por essa eh conversão dos corpos dos indivíduos e populações a objetos extremamente eh eh visíveis eh e segundo ele a disciplina e depois o que ele vai chamar de biopoder consiste Justamente na na conversão eh do dos corpos e dos indivíduos eh em em em eh objetos né visíveis pro tanto pro poder quanto pro saber então e uma outra uma outra lição né Desse autor é que ah o campo do visível né o o não é um campo dado

não é um campo estabelecido a priori né o visível tá sempre em disputa o visível é um campo de batalha O que conta como que pode ser visto que não pode ser visto ou ou mesmo que é visto e o que não é visto eh tem uma longa e variada história de disputas e as máquinas participam dessas dessa disputa participam desse campo de batalha né Então as questões que eu queria levantar um pouco aqui é como que nós temos ensinado as máquinas a ver e a controlar o que eh eh que imagens resultam daí né

que eh segundo que sentidos ou que princípios estéticos e políticos a gente eh constrói máquinas de visão e de controle né que transformações também sobre o sentido da visão e o sentido do controle decorrem daí né O que que isso nos ensina sobre nós mesmos e sobre nossa relação com as máquinas com a visão e com o olhar né O que que a gente tem visto e o que temos deixado de ver com essas máquinas É claro que eu não vou responder propriamente essas visões essas visões não essas perguntas né essas questões são mais são

provocações pra gente para nos acompanhar ao longo dessa dessa conversa eh mas eu vou est eh olhando para essas questões ou de alguma maneira ressoando essas questões eh no na análise de dois conjuntos ou dois dispositivos específicos duas tecnologias específicas de visão de controle eh a primeira delas é a a são as tecnologias de reconhecimento facial né as tecnologias que estão cada vez mais presentes no nosso mundo e a a segunda são as tecnologias de de vídeovigilância eh inteligente né vídeovigilância automatizada que é uma novas digamos assim geração da videovigilância eh onde a a a

visão é de alguma maneira eh orientada por uma camada computacional ou por uma camada de Inteligência Artificial eh então eu vou ressaltar duas eh características mais Gerais dessa desses dois conjuntos de tecnologias né um uma primeira característica que aí eh vem sendo explorada por uma série de autores é que eh Essas tecnologias elas marcariam a passagem da imagem técnica ou seja de imagens produzidas por máquinas né Eh para eh um O que seriam as máquinas de visão lá nos termos eh do do Povo virilio né enquanto que tecnologias como fotografia cinema vídeo por exemplo eh

marcariam a emergência em larga escala da imagem técnica né imagens produzidas por máquinas e não mais pela mão humana né Eh eh mas que ainda estavam dirigidas pro olhar humano ainda estavam eh eram produzidas para serem vistas pelos homens ainda estavam completamente no no domínio ou no espectro do Olhar humano enquanto que eh as máquinas de visão computacional Elas seriam né segundo uma série de autores como o Trevor paglen que é um autor eh é um é um enfim investigador né do da Visão computacional mas também é um artista né o André mintz que é

um pesquisador da UFMG Cláudio Celis que é um pesquisador chileno que também tem trabalhado com com com visão artificial e visão computacional a Joan Z linca entre tantos outros eh segundo esses autores as máquinas de visão eh Elas seriam E especialmente essas divisão computacional elas eh opera não mais produzem uma imagem visível para o olho humano mas sim uma uma imagem legível por máquinas ou seja são imagens eh que talvez nem mais mereçam o nome de imagens né mas enfim por falta de outro nome são imagens feitas por máquinas e para máquinas que já estão

fora eh do campo do Olhar humano eh então não apenas elas não são legíveis ou visíveis para o olho humano como elas precisam eh para né ser traduzidas para que possam eh de alguma maneira integrar né o o o o nosso o nosso universo né Eh o nosso regime eh visual né o o o André mintz mesmo que eu já citei aqui que é esse pesquisador da da UFMG ele vai vai propor que esse um essas máquinas de visão elas produzem um novo tipo de regime visual que seria o que ele chama de uma visualidade

computacional né onde uma gigantesca massa de imagens e de dados invisíveis pro olho humano e mais uma vez í veis paraas máquinas alimentam uma série de processos de tomada de decisão de ação e de controle né Eh a a segunda característica geral eh dessa D dessa visão computacional é que elas passariam ou elas representariam uma passagem da imagem técnica seja como representação seja como eh tendo algum tipo de relação com um referente qualquer né eh ah para um outro tipo de imagem que seria uma imagem como operação né ou que seria uma imagem eh eminentemente

performativa não mais uma imagem que permite ver algo ou que torna algo visível mas imagens que fazem algo que produzem efeitos que agem diretamente no mundo eh o o realizador artista e também intelectual harun Faro eh que esteve no Brasil durante um um período nos anos 2015 se eu não tô enganada eh ele deu um nome a essas imagens né ele Ele propôs chamar essas imagens de imagens operativas eu vou pedir mais uma vez pro Kico ler um trecho onde ele define essas imagens os trabalhadores manuais como seus modelos para logo depois superá-los e torná-los

obsoletos os autômatos sensoriais são destinados a substituir o trabalho do olho humano em meu primeiro trabalho sobre esse assunto olho máquina de 2001 chamei essas imagens fe nem para entreter nem para informar de imagens operativas São imagens que não representam um objeto mas fazem parte de uma operação é então assim as imagens operativas o o tipo de imagem que a gente vai ver aqui vai tratar aqui são esse tipo de imagens não são imagens de alguma coisa mas são imagens que integram um tipo de operação e que sobretudo agem sobre um um determinado contexto né

então para materializar um pouco dar um pouco mais de carne ao que eh Eu mencionei até agora eh ah vamos falar dos né dos dois Campos Eh que que eu vou tratar aqui um é o reconhecimento facial né a a tecnologia de reconhecimento facial ela é eh no enfim muitos de vocês usam de diversas maneiras né mas ela é assim em termos técnicos uma forma eh de reconhecimento automatizado da face humana né E ela de modo geral tem sido utilizada em três com três maiores eh funções né uma função de verificação que é saber se

você é você né Por exemplo quando a gente desbloqueia o celular né com e o reconhecimento facial a segunda é a uma função de identificação que é tentar identificar um indivíduo entre eh tantos outros né E a terceira que é uma função eh de categorização ou seja uma tentativa de ler na face eh características que podem remeter a gênero a idade a traços emocionais ou psicológicos né esse nesse segundo nesse terceiro sentido né a ocorre eh uma espécie de conversão né do rosto num num território de extração de dados de informação e de eventualmente conhecimento

e valor sobre os indivíduos né Eh os passos eh Gerais né dessa tecnologia automatizada de reconhecimento facial é primeiro né a identifica a detecção da face né Então essas câmeras elas procuram né A Face então o primeiro momento é né aquele Quadradinho que todo mundo percebe o próprio celular né quando vai tirar uma foto já faz eh num segundo momento uma análise algorítmica dos pontos nodais da face vou pedir para passar a imagem que eu acho que eh deixa mais claro né Eh como que isso como que essas essas câmeras operam então esses pontos dais

envolvem por exemplo a distância entre os olhos o comprimento do nariz né tamanho do queixo etc e eh a partir daí se compõe uma espécie de equação facial né que eh por sua vez é codificada e Vale como uma impressão facial um pouco como tem a impressão digital né O que se chama de Face Print né uma impressão facial que é comparada a um um a um volume um conjunto né de de dados né de imagens armazenadas eh para concluir eh ou fazer o reconhecimento associar um rosto a um nome um rosto a uma pessoa

uma a um endereço a uma categoria etc bom eh essa tecnologia como a gente sabe tem usos diversos Né desde bloquear os nossos smartphones até verificar nossas identidades em passa em fronteiras e passaportes né a permitir acesso a serviços né transporte público eh escolas segurança etc então Eh vocês vejam que ela faz parte eh de de uma operação né uma operação de acesso uma operação de controle de Fronteira uma operação de desbloqueio de celular ou de acesso a serviço né Eh eh e e o que muitos muitos autores têm ressaltado eh é que essa máquina

né O que a o que a máquina vê né O que a máquina visualiza não tem nenhuma relação S de semelhança com o que seria né uma imagem do rosto humano eh familiar para os olhos humanos né o rosto visto pela máquina é um conjunto de vetores né como eh eh tá mais ou menos traduzido na imagem já eh eh visando o olho humano eh mas esses vetores não são legíveis para os nossos olhos né esses padrões que a máquina reconhece nas Faces eh para identificar para verificar ou para categorizar não são visíveis para os

olhos humanos eh e como diz o Ícaro Vidal que também eh pesquisa câmeras inteligentes e tem um artigo muito interessante sobre reconhecimento facial o rosto ele é convertido numa espécie de código de barras né Eh então o uso do reconhecimento facial para para fins de vigilância segurança controle de Fronteira eh e controle dos corpos né no espaço público de uma forma geral eh tem sido eh muito criticado e debatido eh por uma série de autoras e autores eh ah que que vem chamando atenção pro quanto que eh essa tecnologia vem automatizando de alguma maneira eh

eh posturas discriminatórias né seja do eh eh leituras racistas seja leituras misóginas misóginas ou eh outros tipos de violência né autores como Tarcísio Silva Pablo Nunes e Nina da hora vem eh analisando isso eu vou voltar esse ponto mas apesar desse questionamento né que tem sido feito globalmente eh alguns países inclusive já baniram o reconhecimento facial o uso do reconhecimento facial na segurança o uso do reconhecimento facial em espaço público apesar disso é uma tecnologia que vem proliferando em alguns países e em alguns lugares do mundo aqui inclusive eh tanto que em muito recentemente Depois

de muita controvérsia é o Projeto Smart sampa que é um projeto da Prefeitura de São Paulo prevê a instalação de 20.000 câmeras de reconhecimento acial na cidade né de São Paulo então uma tecnologia que tá em Franco eh eh Franca implementação eh Mas é interessante perceber né que para além né como costuma acontecer com as tecnologias de vigilância em geral e com as tecnologias de controle em geral para além desse circuito eh securitário ou o circuito da vigilância eh as máquinas de controle Elas têm sempre uma trajetória mais complexa e elas têm sempre uma trajetória

também nos circuitos de entretenimento de consumo e de prazer né Essa essa imagem do technical Tech que vocês viram o technical Tech é um coletivo eh que trabalha com com tecnologia eh que tá baseado em Berlim mas que enfim conta com colaboração Global eh eles eh mostram né a como que a há há uma longa trajetória da selfie né Desse dessa grande eh dessa grande espetacularização do rosto né E esse grande comércio do rosto nas redes sociais né e eh na produção de selfies por toda parte e como que essas selfies vão migrando e acabam

eh alimentando bases de dados que por sua vez vão treinar máquinas para fazer depois reconhecimento facial e serem usadas para controles eh de de populações de territórios e para né políticas de segurança então tem tem toda uma trajetória aí que é bastante complexa e que eh ah e que vale eh a gente olhar para elas porque a gente só pode só consegue entender como que certas tecnologias eh eh de controle de vigilância se tornam tão familiares eh e tão aceitas e tão banalizadas no nosso mundo se a gente entende que eh a trajetória dessas tecnologias

ela é muito mais complexa eh do que eh própri uma operação de repressão ou de controle ou de poder ou seja ela ela passa também por circuitos de sedução por circuitos de reconhecimento de desejo e por aí vai então eh eh deixa eu ver o que mais eu gostaria de falar sobre esse esse tema especificamente Ah sim tem um elemento aqui que eu acho bem importante né antes um um junto com technical Tech tem um um outro trabalho de um artista que chama Adam Harvey eh que ele também vai mostrar né vai fazer uma brincadeira

da né a sua selfie hoje vai virar o perfil biométrico eh de alguém amanhã né ou seu mesmo perfil biométrico amanhã e ele faz um grande eh eh trabalho de coleta eh de dados de rostos que que eh estão aí armazenados né em diversas bases de dados e ele eh identifica eh 24 milhões de fotos que não foram expressamente consentidas pelas pessoas né só para vocês terem uma ideia da escala eh do eh e da trajetória né de dos nossos rostos hoje eh nesse nesse universo eh da dos ambientes digitais né e é muito curioso

que nesse mundo né em que o nosso rosto migra por toda parte né Eh é um mundo também que produz uma tecnologia que Visa atrelar o rosto à pessoa né ao mesmo tempo que os os rostos começam a se descolar dos corpos e a migrar né por diversos dispositivos por toda parte passam a a habitar bases de dados as mais diferenciadas né E H uma tecnologia que que procura e recolocar digamos assim né retificar eh os rostos eh e atrelar os rostos aos seus corpos bom eh tem aí claro todo um regime de visualidade que

impacta enormemente no sentido que o que o rosto que a face eh passa a ter eh na nossa sociedade né a gente eh a a sociedade ocidental já há algum tempo é uma sociedade que atrela o rosto à à intimidade à singularidade de cada um né o rosto eh o nosso rosto tá sempre amostra né o nosso rosto é eh é uma dimensão do nosso corpo que eh não apenas tá associada a uma certa intimidade tá associada a uma singularidade mas é também eh uma dimensão relativamente mais vulnerável do nosso corpo né eh e e

da mesma maneira que ah de alguma maneira o cinema né vai inventar também o Close né e vai colocar o rosto né num certo no centro né de uma cultura do espetáculo eh permitindo aí uma série de ressignificações também eh e de novas identificações com essa dimensão eh do do nosso corpo o o eh o o a a a o a self e o reconhecimento facial vão trazer uma nova camada aí ou novos sentidos eh pra Face no nosso mundo né Eh então tem aí uma uma mudança né no estatuto político eh da imagem do

rosto e do próprio do próprio rosto na nossa sociedade eh que enfim eh tem implicações importantes que eu vou eh retomar daqui a pouco no o segundo domínio de tecnologias que de máquinas de visão e controle que eu queria trazer para vocês Para né junto com reconhecimento facial são as câmeras eh chamadas câmeras inteligentes né câmeras de vídeovigilância que eh adicionam uma camada de de de leitura computacional a a imagem de modo a permitir que a a a a câmera ou a imagem que a câmera capte seja capaz de detectar de forma automatizada situações e

comportamentos suspeitos né Eh Ou situações de risco ou situações de perigo ou seja eh a a câmera não apenas mais transmite ou registra as imagens como ela Faz uma leitura da Imagem e nessa eh leitura da imagem ela eh deine define ou decide o que deve ser eh visto ou ressaltado nessa imagem e o que deve ser deixado para lá né então tem três eh vou ressaltar aqui três movimentos que essas eh Essas tecnologias de visão operam né A primeira é é essa essa eh eh relativa seleção ou eh ordenação do mundo visível tentando detectar

o que é regular e o que é irregular numa determinada cena né então Eh ã por exemplo né um Numa estação de metrô ou numa estação de trem ou num aeroporto em que os corpos estão em movimento né se um corpo fica demasiadamente parado por muito tempo eh o a câmera detecta esse corpo parado por muito tempo porque é uma anomalia é uma irregularidade Nesse contexto Então as câmeras são treinadas a detectar eh todo tipo de comportamento de situação que eh foge da normalidade ou da regularidade então é uma é uma é uma é um

tipo de visão eh artificial um tipo de inteligência né visual que faz essa essa seleção do que é regular e do que é irregular ressaltando as irregularidades para o foco de atenção dos operadores de câmera né Eh claro que isso tem a ver com a a capacidade limitada da atenção humana de prestar atenção desse grande volume de imagens eh de vigilância a qual um operador de câmera tá exposto né Eh então ã Isso é uma primeira característica a outra característica é que essa vde vídeovigilância inteligente ela tem um forte apelo preditivo né ela pretende eh

agir antes do fato ou desviar ou impedir o acontecimento Então ela pretende detectar situações de risco ou situações suspeitas ou com condutas suspeitas para impedir a ação né Então nesse sentido elas são eh máquinas Deão extremamente performativas também né como eu falei antes e terceiro terceira característica é que Essas tecnologias Elas têm eh um foco em eh muito mais na ação do que num agente ou seja eh enquanto a as tecnologias de reconhecimento facial elas estão muito voltadas para o processo de identificação né Elas estão ainda dentro do modelo ou do paradigma de identificação eh

as a v vigilância inteligente ela se eh promove e se vende como uma tecnologia que não está tão preocupada com a identificação das pessoas portanto não violaria por exemplo privacidade ela tá mais preocupada em identificar ações e comportamentos Independente de saber quem é é quem e impedir essas ações né então é um outro modo de exercício eh do controle sobre os corpos que vai eh eh incidir diretamente sobre as condutas e e e não pass passar pela identificação como é o caso eh do reconhecimento facial então Eh é importante também eh lembrar que essa essa

eh perspectiva né preventiva eh preventiva Não preditiva essa perspectiva eh de ser capaz de detectar eh os comportamentos eh que vão ã indicar uma ação por vir ela não é um privilé desses eh desses circuitos de vigilância que eu apontei aqui elas eh como a a vídeovigilância inteligente e o reconhecimento facial ela tá presente também nos sistemas de recomendação na filtragem de conteúdo online em campanhas publicitárias em direcionamento de Publicidade que também operam por predição né de eh de comportamentos futuros eh e agem antecipadamente oferecendo aquilo que supostamente você vai querer ver ouvir etc né

então isso é um é um modelo digamos assim eh de de a gestão né das condutas da atenção né e dos comportamentos eh muito presente nas tecnologias e nos ambientes digitais de uma forma geral né bom eh uma característica eh importante desse desse eh desse modelo de visão ou de previsão eh que tá voltado para detecção das ações e não tanto das pessoas ou dos indivíduos que executam a ação né o indivíduo ele surge depois né ele se Torn um alvo depois eh é uma certa de novo abstração desse desse controle visual de modo que

mais uma vez o o olho humano eh não está eh aparelhado para executar Esse controle ess Esse controle visual ele é significativo pra máquina mas não pro humano eu vou tentar ilustrar isso com uma imagem um conjunto de imagens de uma de uma eh um programa que foi que chama Skynet que foi eh divulgado eh ou foi tornado público através dos arquivos que o Snowden né tornou público e que o intercept divulgou publicou eh no Entre esses muitos documentos um deles falava de um programa que buscava detectar alvos ou melhor eh buscava detectar padrões de

comportamento eh de pessoas que trabalhavam como mensageiros né para redes terroristas e para chegar nessa eh isso monitorando a eh a rede de celulares eh de telefonia móvel né do Paquistão então Ah nesse monitoramento não se sabia quem era quem se você tinha ali uma série de eh eh eh telefones eh ah identificadores né mas ah eh o que se monitorar Av era o padrão de viagem o tempo de uso de telefone eh Enfim uma série de pode pode aí ó ó padrões o que eles chamavam de padrões de vida eh padrão de comportamento de

viagem etc para a partir daí eh identificar eh aqueles que teriam um um padrão de comportamental do uso de telefone do modo de viajar etc que corresponderia a um eh a um mensageiro eh que trabalhasse para redes terroristas eh aquele primeiro grafo da imagem anterior se puder voltar você vê que para um olho humano não detecta nada aí não consegue visualizar nada perto de indivíduos né Eh são padrões que a máquina reconhece como indicando um um modo de comportamento eh de um mensageiro que trabalha para rede ter terrorista se a gente pular pra terceira imagem

a gente finalmente chega num rosto né porque esse padrão parece corresponder né a esse indivíduo e esse indivíduo ele surge como um suspeito a partir daí mas a primeira varredura digamos assim o primeiro monitoramento que é feito nessa grande rede de telefonia móvel ela não é feita sobre indivíduos ela é feita sobre padrões de comportamento e troca de comunicação depois surge esse indivíduo como um possível suspeito nesse caso é um falso positivo porque não se trata de um mensageiro que trabalha paraa rede terrorista mas sim de jornalista que trabalha para para o Jazira e eh

o intercept soltou obviamente isso eh né né justamente porque é um falso positivo para mostrar que o indivíduo né E aí sou eu dizendo agora o indivíduo ele surge depois né ele surge num segundo do momento ele é projetado por isso a previsão eh ela vai bem longe né Ele é projetado eh depois desse Grande monitoramento de Corpos trajetórias ações e padrões de comunicação eh Então tem um nível de abstração e um nível de eh visualização eh do do dos dos comportamentos e das relações e das Comunicações que é de uma ordem não humana que

é de uma ordem maquínica que só depois se se traduz num indivíduo suspeito etc né bom ah um um segundo eh exemplo bastante clássico desse dessa perspectiva preditiva né no campo eh das máquinas de visão de controle eh é uma um um sistema né de policiamento preditivo que se chama pré Ed Paul né que é uma uma espécie de acrônimo de predictive policy né eh ah que ah ah procura também prever onde e quando os crimes vão ocorrer a partir da análise de dados eh passados de crime né num deter numa determinada cidade eh num

determinado contexto eh e ã o o os eh Anunci ores né os promotores desse dessa ferramenta né que começou a ser utilizada nos Estados Unidos já tá sendo usada desde 2 se eu não me engano eh eles justamente brincam falam não é Minority Report né Eh que previa quem ia cometer o crime mas sim um outro tipo de previsão porque se prevê onde e quando e não quem né então de novo eh essa previsão Essa ordem de previsão eh que não passa pela identificação Mas o que eu quero chamar atenção é que essa eh ausência

do indivíduo no processo como um alvo ou uma uma presença né Eh um foco da Vigilância e da visão não diminui os efeitos de poder e de controle sobre os indivíduos porque em algum momento ele vai emergir né como um suspeito um alvo potencial eh e e o que eh eu venho tentando fazer é entender as implicações e os riscos disso então agora passando um pouco para eh menos para descrição e para um entendimento uma avaliação dos riscos e das inquietações que Essas tecnologias nos trazem né e nos colocam eh eu vou eh começando né

pelo reconhecimento facial eh eu retomo né o que eu já falei que que é a a conversão né Eu acho que um primeiro uma uma primeira inquietação é essa conversão da face né do nosso rosto esse esse essa dimensão essa parte tão significativa do nosso corpo num território extrativo eh de dados de valor de conhecimento sobre eh eh quem nós somos e também sobre as nossas eh emoções sobre os nossos traços psicológicos etc né né uma outra eh e e isso implica né numa transformação profunda no sentido e na experiência do rosto nas nossas sociedades

né e do nosso corpo nas nossas sociedades e a gente eh uma inquietação ou uma pergunta que a gente se coloca é se nós queremos eh eh essa transformação eh a esse grau a esse ponto e dessa maneira ou não né Eh eh um segundo um um segundo problema ou um segundo eh foco imenso de inquietação que eu também já mencionei rapidamente é o quanto Essas tecnologias né as tecnolog toda a tecnologia né Ela é é é uma elas elas estão sempre situadas num contexto histórico social que eh ah determina não é Ou impacta eh

os seus efeitos e os seus modos de operação no mundo e uma tec como reconhecimento facial né uma uma tecnologia que lê né no corpo eh indícios de periculosidade e de suspeição num país eh como o Brasil né que tem uma estrutura eh eh penal carcerária e policial eh e um estado a gente pode dizer extremamente racista é é é uma tecnologia que apresenta riscos gravíssimos né E como eu já citei aqui Pablo Nunes Nina da hora Tarcísio Silva vem chamando atenção no Brasil pro quanto eh essas eh eh a tecnologia de reconhecimento facial traz

eh riscos fortes para uma certa automação eh do racismo em nossas sociedades né num trabalho eh publicado eh pelo panóptico que é é um um um centro de pesquisa eh dirigido pelo Pablo Nunes ele mostra né como que na Bahia que é o estado brasileiro que mais prendeu pessoas com base no uso de reconhecimento facial 87 eh P 99% das pessoas abordadas né nessa nessas nessas eh prisões eram do sexo masculino e 90% 90.5 eram negros com uma idade média de 35 anos então assim a gente eh vê muito claramente né o viés racista né

dessa dessa tecnologia que tá sendo né tá eh eh eh atravessando ou cumprindo uma trajetória muito parecida com o que aconteceu com as câmaras de vigilância e tá sendo cada vez mais banalizada né Eh o o laboratório jararaca junto com a rede lavits eh num estudo feito eh pelo Rodrigo Firmino a Júlia eh o a Carolina Israel eles publicaram um relatório sobre a entrada de reconhecimento facial em escolas em Curitiba e já tem cerca de 1667 colégios usando reconhecimento facial na escola para controle de presença e também eh com uma perspectiva ia de uso para

reconhecimento de emoções e análise do desempenho eh dos alunos então eh a gente tem aí um um um Horizonte de banalização de uma tecnologia com eh muitos eh problemas muitos riscos que eh requer né No mínimo a nossa atenção o o o com relação ao ao policiamento preditivo né e a vigilância preditiva eh eh um um uma inquietação importante é que Diferentemente da prevenção né que tá Atenta às condições sociais eh que favorecem por exemplo o crime ou a violência urbana né como a questão de desigualdade educação né oportunidade de trabalho entre outras as políticas

preditivas né especialmente essas de predição algorítmica elas eh eh Não elas funcionam segundo uma espécie de governo dos efeitos elas não tão tão preocupadas em entender nem intervir sobre as causas de do né da criminalidade ou da violência elas estão preocupadas em impedir que o crime ocorra né e impedir a ocorrência então é um é uma outra estratégia que segundo a Jack Wang que tem um trabalho muito interessante que se um livro que foi recentemente eh traduzido pro Brasil que se chama capitalismo carcerário isso implicaria uma certa despolitização da eh do combate ao crime né

Essa perspectiva eh preditiva bom hã avançando um pouco na nossa eh na nessa Nossa num certo eh exercício de reflexão sobre eh os riscos e as inquietações uma outra dimensão que eu acho acho importante trazer é a o quanto é paradoxal essa eh essa fantasia ou esse desejo de intervir sobre o que ainda não aconteceu né Eh de prever e e impedir eh o um um um crime futuro ã eh onde o risco claro aí é de Condenação por antecipação né Eh como o rapaz ali o o o jornalista do Al Jazira que foi projetado

né como um possível suspeito eh de trabalhar para uma rede terrorista bom partindo agora né Eh da eh dos riscos para os horizontes digamos assim eh as possibilidades de hã reação resistência contestação desse regime de visão e controle que vem sendo proposto eh por Essas tecnologias né Eh a gente deve lembrar né que felizmente elas não esgotam né todas as nossas possibilidades de ver o mundo elas não né Tem sempre muito mais coisa acontecendo e se produzindo por toda parte e a gente tem eh também né o exercício político de identificar né os perigos e

os riscos eh eh também envolve o o esse exercício de eh eh projetar né fugas horizontes e saídas bom eh o o reconhecimento no campo do reconhecimento facial né com essas eh Suas Fantasias né securitárias né suas inúmeras contradições suas inúmeras falhas porque também é uma tecnologia que apresenta um histórico de falhas eh no reconhecimento sobretudo de mulheres negras eh de rostos né de mulheres negras eh enfim eh mas eh no campo da da do reconhecimento facial aí eh com uma espécie de exemplo eh quase que quase que emblemático né de que as resistências elas

sempre germinam ali eh onde poder né muitas vezes se exerce de forma bastante vorais né o reconhecimento facial acabou mobilizando uma série de de resistências e de contestações em âmbito Global mas também aqui no na América Latina e especialmente no Brasil que eh eh inseriu né uma agenda botou na ordem do dia uma agenda atenta a questões raciais a questões de gênero e a questões eh socioeconômicas no debate sobre tecnologia né pedindo o banimento do reconhecimento facial eh em espaços públicos e Mais especificamente ainda eh na eh na segurança pública Então vou pedir para colocar

o eh a campanha né tire meu rosto da sua Mira eh Por que que isso essa campanha é importante além de pedir né de pedir o banimento de ter conseguido protocolar eh cerca de 50 projetos de lei pelo banimento eh Eu acho que um dos grandes méritos dessa campanha é justamente pautar a agenda de discussão sobre tecnologia inserindo um debate racial eh de gênero e social que normalmente ficava do lado de fora eh dos debates e das discussões sobre tecnologia né Eh eh uma uma uma segunda uma segunda um segundo mérito né desse desse pedido

pelo banimento eu é o de fazer um deslocamento da discussão eh sobre reconhecimento facial eh do campo do reparo né porque como eu disse é uma tecnologia que apresenta muitas falhas e claro que aí é uma armadilha muitas vezes a a a a proposição ou a discussão parte para um certo tecnos solucionismo ou se supõe que é possível reparar ou melhorar essa tecnologia a ponto dela não apresentar os erros que ela eh hoje apresenta né e o o pedido de banimento eu acho que ele desloca a discussão do reparo paraa reparação né Eh reparação em

termos de justiça social né em termos de eh eh tratamento Digno às pessoas no sentido de que o uso de uma tecnologia como eu disse mais uma vez que lê no corpo né traços eh de periculosidade tem um histórico né extremamente violento né essa história tá tá tá ali né tá num passado recente então re reeditar essa história é é é bastante é bastante perigoso então eh eh né falar no banimento é falar em termos de reparação e não no reparo dessa tecnologia né bom segundo segundo Campo aí de eh de respiro né Eh para

além dessa ação de resistência E aí não não tô falando mais apenas do reconhecimento facial Mas estô falando do e do que essas máquinas eh de visão e de controle trazem né Eu acho que há Eh aí e aí no Campo da da da da produção eh de imagens né dessa do que se chama dessa inteligência artificial generativa no campo da imagem Gisele bigam mesmo é uma um um artista que Tá experimentando bastante com isso eu acho que há aí um campo né estético político aberto de possibilidades né Eh que ultrapassam eh ou que escapam

a essa agenda que eu apresentei aqui né de controle e e de segurança e eh de poder né Hã eh um um um um terceiro movimento né eh e aí eu acho que assim que é para para concluir esse segundo né Eh eu eu tenho a a a a a convicção digamos assim ou a esperança de que é fundamental a exploração desses eh eh dessas possibilidades Estéticas e políticas eh com essas com essas imagens eh e segundo outras direções né Eh é fundamental que a gente saia né dessa dessa agenda eh que eh nos coloca

ou numa agenda securitária ou numa agenda de controle ou numa agenda puramente comercial eh como uma boa parte da inteligência artificial tem eh vivido né um terceiro campo né é o o campo eh o que eu chamei né aqui provisoriamente é eh uma tentativa de eh ver positivamente eh a esse nosso hábito histórico né de ver com outros olhos né ver com os olhos de outros entes né Nós não vemos o mundo como eu falei como eu comecei a minha fala falando né chamando atenção por quanto que a visão é sempre uma visão partilhada de

alguma maneira mediada por aparatos técnicos então num certo sentido a gente sempre vê com outros olhos né com olhos outros e eh e nessa né nessa direção hã eh a eu acho que uma pergunta importante é o que o o que a gente pode eh construir né de de eh de de ação estética de ação política de ação ã social com eh vendo com esses outros olhos né vendo com essas máquinas eh mais uma vez citando eh a Gisele né ela ela brinca quando ela soltou um artigo logo depois que saiu o chat GPT ela

brinca que no lugar de a gente reencenar essa rivalidade homem máquina que tá muito em voga né a gente deveria pensar brincando eh com um termo da Dana har que fala das espécies companheiras né os animais com quem a gente partilha o nosso modo de habitar o mundo que eh de pensar saem máquinas companheiras então em que medida essas máquinas podem ser companheiras no nos nossos modos de ver o mundo e aí eu queria apresentar para vocês né dois eh dois exemplos que eu acho que trazem pistas h de como Essas tecnologias de visão e

de controle podem eh operar eh outros modos de ver o mundo né ou ver com outro ou esse exercício de ver com outros olhos eh um um primeiro exemplo né Eh é um projeto que eu coordenei em parceria com Paulo Tavares e com Adriano Belizário eh numa colaboração com redes da Maré fogo cruzado a Defensoria Pública pista News enfim outras e uma série de outras entidades onde a gente eh fez uma análise uma investigação na verdade sobre o uso de helicóptero como plataforma de tiro em operação policial no Rio de Janeiro né eh não sei

se todo mundo sabe mas eh ao longo de 2014 2000 Opa é 2014 2015 eh não 2018 eh 2019 a gente teve viver uma série de de operações dessa natureza e eh esse nesse projeto a gente eh se inspirou né na numa metodologia da da arquitetura forense que a procura eh eh que é uma prática investigativa né criada fundada pelo eal weisman em goldsmid mas que eh tem colaborações né e parceiros no mundo todo E é uma prática investigativa que procura eh usar né tecnologias de visão e de controle mas para reverter o olhar né

não para o exer ício do controle mas para eh produzir evidência sobre eh violência eh e violação de direitos por parte de Estados e corporações né E nesse nesse trabalho que a gente publicou na forma de um relatório que se chama territórios de exceção violação de direito e uso de helicópteros policiais no Rio de Janeiro eh a a ideia né ou o nosso desafio ali naquele contexto Urbano era tentar eh entender de que maneira né Eh o o contexto Urbano né Poderia eh guardar uma memória dessa violência né o asfalto da favela as marcas do

tiro no chão eh o o o o as marcas nas casas e nos nos estabelecimentos as as imagens registradas pelos celulares das pessoas ou seja toda uma série de eh tecnologias marcas materiais né e memórias iais eh que estavam ali inscritas no contexto Urbano como que elas podiam ser eh eh retrabalhadas ou recuperadas para produzir evidência do tipo de violência eh que eh o esse uso de helicóptero em operação policial tava produzindo né então ah a gente tem aí né uma um um uso né de uma de do equipamento Urbano né e das mídias urbanas

que tão eh eh distribuídas eh a pelas enfim não só pela na cidade né na própria nas pelas instituições mas pelas próprias pessoas numa reconstituição de um olhar né ou na construção de um olhar sobre um território que é eh eh tava sofrendo uma série de de violações de direitos e onde a gente queria eh produzir um tipo de evidência que não fosse restrito ao testemunho humano uma vez que as o testemunho humano ali é um é um testemunho que tá sempre sob uma certa ameaça então a gente tava tentando uma certa Associação né com

eh o o todo um conjunto de de aparatos técnicos eh e de marcas materiais que pudessem fazer falar essa eh essa violência e trazer a memória dessa violência a gente reconstituiu né coisas como eh mostrando como que os os os eh os as marcas de tiro estavam muito próximas à escolas mostrando como eh eh reconstituindo através do dos registros de celulares a trajetória né de voo dos helicópteros a eh uma uma ideia aproximada da altura dos helicópteros e e uma série de outras evidências que nos ajud davam a a tornar mais sensível essa violência né

Então aí é uma uma espécie de inversão do olhar né numa parceria com uma série de aparatos técnicos né com esses muitos outros olhos para ver junto uma situação eh num num num Horizonte de eh eh separação de reparação e de tentativa de produção eh de justiça social e não de controle eh eh policial como eh os casos que eu trouxe aqui né um outro eu acho que eu já tô esgotando meu tempo eu não sei eh mas um último exemplo aí novamente eu vou vou trazer a um um trabalho que é acho muito bonito

eh do Paulo Tavares eh que sobre as ruínas da Floresta né na Amazônia onde ele eh utiliza uma série de tecnologias de sensoreamento remoto e imagens de satélite Resumindo muito né porque o tempo já tá curto para mostrar como que a floresta né ah uma uma determinada região ali onde houve um genocídio né do Povo vaim Miri aturari eh como que aqu a a a a essas imagens né de sensoreamento remoto e as imagens de satélite elas permitem ã visualizar eh uma série de informações sobre formação de Floresta secundária e sobre a a a a

idade né das das e a formação botânica da vegetação e a idade da vegetação que permite inferir por exemplo que que aquela área já era habitada né já era povoada já era ocupada Ahã mas essas eh essas imagens ou esses indícios que aparecem nas imagens e satélites mais uma vez não são visíveis aos olhos humanos elas só aparecem n elas só são elas elas estão fora do espectro ótico humano elas só aparecem na imagem de satélite Claro que depois ela se torna pelo olhar humano mas e eh esse é um trabalho muito bonito de nessa

direção que eu falei das máquinas de visão companheiras né de em que é possível eh utilizar todo um um aparato né de visão não humana para tornar visível né uma determinada história social e política da de ocupação humana da floresta que por sua vez vez permite contestar essa imagem eh Colonial eh e que que que vigorou durante tanto tempo de que a floresta seria esse Território Selvagem não ocupado né e e e e desprovido né de de história e de memória eh social e cultural e essa essa né numa composição aí com essas com esse

olho eh maquínico eh que permite visualizar a história da floresta é possível por exemplo né como não apenas mostrar a a a existência né de um de uma história de genocídio mas também eh reparar né e restaurar ou restituir a as terras para eh os povos indígenas e contestar essa visão né Essa da da floresta como e essa separação entre natureza e cultura que é uma visão que nos trouxe né até o presente a esse momento enfim de de colapso ou de crise né climática que a gente tá vivendo então Eh vou concluir Essa é

um para mim um trabalho muito bonito de exercício né de de visão eh com as máquinas né pela pela eh eh voltados pro cuidado né pro Cuidado com a vida cuidado com o planeta cuidado com o outro e não eh voltados para exercício do controle do Poder como eh a gente viu Eh em boa parte aí da minha fala então obrigada E a gente pode passar pra conversa palmas para ela por favor a gente vai abrir agora perguntas e quem tá acompanhando a gente pelo YouTube pelo Instagram só escrever no chat aqui no público tem

os papeizinhos quem tá acompanhando a gente pelo YouTube reforça o convite para se inscrever no canal para saber a notícias da nossa programação e também os vídeos que Subimos basicamente tem um vídeo novo por dia e para abrir a gente como estamos comemorando 20 anos de Café Filosófico a gente dá uma olhada no nosso acervo de temas e relacionados com o tema de hoje então a gente vai passar um trecho aqui de um de um acero do Café Filosófico para você comentar [Música] Fernando toda a civilização se define pela noção de tempo que ela tem

então na pós-modernidade o que nós assistimos a uma visão eh uma visão labiríntica do tempo o tempo como uma mistura de presente passado e futuro eh que funciona para nós como um labirinto no espaço eh a partir da revolução digital tanto é que a explosão do mundo eh da pós-modernidade ela coincide com a entrada do computador dentro das nossas casas isso já começou nos anos 80 quando os primeiros bancos de dados que traziam passado remoto simulações de futuro tudo ao mesmo tempo então nos colocou nesta condição nova que é a condição que nós enfrentamos como

em termos temporais aquela que nos coloca diante dos grandes desafios do nosso tempo então do presente para o futuro então se a gente toma a noção de Walter Benjamin da história como eh o passado não é algo fixo e que está lá disponível para que a gente colha elementos do passado de maneira mais ou menos aleatória ou historiográfica segundo Benjamim o passado importa quando ele relampeja num instante de Perigo no [Música] presente um Obrigada eh Muito bom ouvir a Lúcia Santa ela que tem uma pesquisa incrível sobre tecnologia H tanto tempo e bom e difícil

responder né não é exatamente como não é uma resposta eu vou fazer uma reação a a esse comentário e da Lúcia eu eu concordo muito com a perspectiva de que as tecnologias elas incidem muito eh profundamente na nossa experiência de tempo eu acho que isso sem dúvida né a gente e no nosso mundo contemporâneo a experiência sobretudo pós-pandemia eh a experiência da aceleração do tempo foi uma experiência extremamente violenta né e a eh essa essa experiência da da aceleração né ela também ela traz uma eu acho uma uma uma questão sobre sobre a técnica que

é uma espécie de modificação um pouco até do próprio sentido eh que a a tecnologia modernamente eh tinha na na nossa Cultura né que era uma espécie a tecnologia sempre foi anunciada como uma espécie de portadora do Futuro né né portadora da novidade né e Ah claro que eh eh é isso esse Imaginário permanece presente mas essa mas ao mesmo tempo em que em que essa essa perspectiva eh começa a ser a ser produzida em grande escala e a se acelerar muito eh a a a nossa relação de desejo com esse futuro né Eh começa

a ficar um tanto quanto comprometida Ou seja a cada vez mais a tecnologia Deixa de tá operando né nesse Horizonte eh do eh de ordenação do nosso desejo em relação ao futuro uma vez que ela traz né uma experiência de extrema eh aceleração ou de eh eh eh retorno digamos assim do Futuro sobre o presente em que a gente tem que correr atrás desse futuro que a gente sequer pensou sequer desejou e etc Então vai eh eh a gente hoje vive né um um um regime né de intensificação dessa emergência ou dessa produção incessante de

futuros tecnológicos que deixa eh de colocar né o eh O que eh para talmente retira a tecnologia como esse lugar eh de abertura né de uma novidade ou de um respiro ou de um novo no futuro e torna a tecnologia como Aquela eh eh uma espécie de fonte né de um excesso de futuro um pouco sufocante né então Eh Além do fato de que nas eh tecnologias que eu analisei aqui sobretudo na tecnologia nas tecnologias preditivas esse futuro ele é muitas vezes engendrado por uma eh essas predições são no campo das sistemas de recomendação por

exemplo no campo do policiamento preditivo por exemplo elas são feitas com base numa em em dados passados Então esse futuro ele muitas vezes ele é portador digamos assim de uma série de estruturas de vieses eh de preconceitos né de de de eh eh enfim amarras do passado então ele não traz é uma previsão eh que acaba sendo muitas vezes uma repetição eh do passado e não propriamente uma uma visão nova do futuro não sei se saiu aqui a gente tem a pergunta agora da curadora da série Gisele bigan vamos a ela Fernanda a vigilância hoje

como você mostra em uma série de artigos ensaios conferênci é uma vigilância que não é mais voltada ao prevenir mas para o prever os acontecimentos isso gera uma série aí de novas formas de impor interdições sociais e eu queria que você comentasse um pouco como essas interdições sociais geradas pela vigilância algorítmica impactam a mobilidade urbana é possível identificar um grupos específicos que são mais targe tiad como diz o mercado por Essas tecnologias do que outras ótima questão agradeço muito a Gisele eh e sim eh sem dúvida e essa a essa previsão ela não se abate

da mesma maneira eh ou de modo eh igual sobre os corpos e Os territórios ela se ela se dá eh de forma bastante diferente então só Para retomar o exemplo desse sistema eh de policiamento preditivo que se tornou uma espécie de grande marketing do policiamento preditivo no nos Estados Unidos e que vai sendo importado por vários outros países do mundo Brasil inclusive eh ele ele por exemplo define essas regiões que ah em que que o crime tem mais probabilidade de acontecer né Essas regiões e esses horários em que os crimes têm mais probabilidade de acontecer

com base em eh no histórico criminal daquela região evidentemente né o histórico criminal de muitas regiões em países como os Estados Unidos e também o Brasil eh tem relação com os índices de pobreza eh e muitas vezes esses índices estão tem relação também com eh eh dimensões raciais né então ah o que muitas muitos estudiosos dos efeitos desse policiamento preditivo vem apontando é que ele acaba sobrepolítica porque justamente aqueles aqueles eh o histórico indica ou eh torna mais provável a incidência de crime naquela região isso é então sem dúvida você tem regiões muito mais eh

targe tiad ou enfim visadas do que outras eh há um outro elemento que eu acho que é importante também que tem a ver com essa dimensão performativa é que uma o que acontece isso é uma pergunta muito importante né o que que acontece eh quando um policial vai para uma região onde ele já tem a expectativa de que o crime pode acontecer ali né isso não muda não pode mudar o comportamento do policial quando a gente eh eh lembra do caso do menino o tyrel né Eu esqueci agora o sobrenome dele que um menino de

12 anos que tava brincando com uma arma de brinquedo e o policial achou que era eh uma arma de verdade atirou nele e matou né então Eh quando o policial já tá preparado né para eh uma espécie de crime Será que isso não não pode eventualmente aumentar a probabilidade de um certo tipo de violência policial né enquanto que na a ideia seria na direção contrária Mas será que esse efeito não pode acontecer e um um último exemplo é ã é o quanto que esses Eh esses sistemas que pretendem né contornar o problema do viés racial

o problema do viés de classe que estaria presente né no olhar humano e aí tentam dizer olha a gente não tá olhando para pessoas a gente tá olhando para padrões de comportamento para para situações suspeitas etc eh a gente percebe que os sistemas que aquilo que os sistemas definem como o comportamento suspeito ou como a situação suspeita muitas vezes remete a eh comportamentos que tão ali na margem do tecido social né então ah pessoas muito tempo paradas Em certas regiões onde deveria ter fluxo é claro que isso criminaliza criminaliza eventualmente uma pessoa em condição de

rua né Eh Eh claro que isso criminaliza uma série de outros ou eh aglomerações né aglomerações Em certas regiões onde não deveria acontecer aglomeração tem muito muito software de eh eh vigilância artificial que eh a a né aponta ou ressalta esses esses fenômenos de aglomeração que é um fenômeno juvenil um fenômeno muitas vezes eh eh eh enfim que acontece em certas regiões da cidade mais do que em outras e que de novo eh ah detecta né de forma desigual ou aponta como uma anomalia como uma irregularidade de modo desigual incidindo né Eh de forma assimétrica

sobre o modo como os corpos ocupam o espaço e e lidam com a cidade Fernanda a gente tem mais uma pergunta em vídeo de um colega seu oar Fer Vidal Oi Fernanda A questão que eu tenho para você tem a ver com a noção de futuro né uma certa noção de futuro que a gente aprendeu né dos modernos e me chama bastante atenção que esse essa guinada da vigilância no sentido de um caráter mais preditivo e antecipatório e se justamente num momento eh político e cultural no qual esse futuro essa noção de futuro eh parece

tá sendo colocada em cheque né Eh eu acho que existem alguns fenômenos que testemunham essa crise do Futuro né a própria crise climática eu acho que é um um desses fenômenos Mas a gente pode pensar também no boom recente na literatura de ficção científica ou no pensar pento enfim de intelectuais indígenas né se a gente pensar nas publicações mais recentes do aon kenac né ideias para diar o fim do mundo amanhã não está a venda futuro ancestral são todos títulos que trazem né uma um questionamento de um certo de uma certa noção de futuro então

eu queria te perguntar como que você pensa né para além dessa dimensão soci técnica ligada a esses aparatos essas máquinas de visão a esses sistemas de vigilância como que você pensa eles né numa inserção nesse Campo mais amplo né Eh da cultura é isso ótima questão do Ícaro e de Fato né a a história do Futuro ela é né o futuro tem uma história né e a a essa história do Futuro sobretudo na sua forma moderna né como um tempo eh Triunfante né um tempo de superação do presente um tempo de eh realização dos planos

e projetos do presente é uma é uma é uma ideia é uma perspectiva de futuro que tá em em Franca crise né talvez tenha sido né Como diz a A Úrsula leguin que é aquela eh escritora de ficção científica e ensaísta que fala né dessa ideia de uma flecha assassina do tempo que promete né um certo Triunfo no futuro né Eh talvez tenha sido uma das narrativas né que nos trouxe até aqui a esse momento em que como aponto Ícaro a gente tá eh vivendo eh uma uma uma outra crise do Futuro que não é

só uma crise dessa ideia de futuro mas a própria crise de de haver né um porv né para para nós humanos com com a crise climática então é muito paradoxal né que a gente tenha essa eh extrema fantasia de controle do Futuro por Parte dessas tecnologias de visão e controle ao mesmo tempo em que o nosso tempo eh aponta né para uma extrema incerteza em relação a porvir Fernanda infelizmente chegamos ao final do C filosófico de hoje correu o tempo eh mas eu não vou encerrar aqui antes de passar a palavra para você para você

fazer um fechamento da noite fica à vontade a palavra é sua obrigada bom eu só tenho agradecer eh eu tenho como eu falei né uma admiração muito grande eh por esse por esse programa né fez parte da minha da minha formação Então para mim é uma alegria poder est aqui eh participando né e e e nesse ano né de celebração e de comemoração eh Quero agradecer as perguntas né do Ícaro da e da Gisele e agradecer muito também a a enfim a acolhida de vocês enfim é isso pena que a gente não teve mais tempo

falei demais e a gente não teve mais tempo para conversar Palas para ela por favor agradecer novamente a Fernanda pela apresentação agradecer também as leituras do Kiko a pergunta da Gisele do Ícaro todo mundo que participou hoje aqui em Campinas quem tá acompanhando a gente também pelo YouTube pelo Instagram eu forço o convite para seguir a gente no nosso canal do Café Filosófico no YouTube para quem tá aqui em Campinas quem quiser tirar foto com o cenário fique à vontade marque a gente @ institut CPFL Vai ser um prazer pra gente repostar as fotos que

vocês tirarem aqui e dar um recado aqui que nesse domingo dia 22 na TV vai passar o o envelhecer hoje em Deb bate com aa Borges e na próxima quinta-feira a gente volta ainda nessa série né do módulo Inteligência Artificial submissão e subversão com a Bia rit o tema eu não sou afrofuturista e o que isso tem a ver com máquinas que pensam então nos vemos semana que vem Obrigado até lá domingo quando a gente chega ao momento de envelhecer a gente tem que fazer um processo de luto mesmo na série vida em movimento e

os movimentos da vida que atravessavam o desejo quando você tem 30 anos 40 anos não faz mais sentido quando você tem 70 um debate sobre envelhecer então Eh talvez no envelhecimento da forma como o velho é percebido pelo pelo campo social das discriminações né Talvez seja mais difícil né esses recursos para lidar com as mudanças domingo 7 da noite no Café é filosófico l