Publications

Martins, Juliana Miranda

En el imaginario colectivo de las civilizaciones, desde la mitología griega hasta la historia de las religiones, siempre ha existido una relación dialéctica de admiración y miedo en relación a la existencia de una inteligencia física o espiritual superior a la inteligencia humana. A principios del siglo XX, a partir de las novelas de Isaac Asimov y Aldous Huxley y el advenimiento de la ciencia ficción en la industria del cine, algunos escenarios que desde entonces solo se vislumbraban en las páginas y pantallas se hicieron reales, con el uso de tecnologías emergentes en acciones de los humanos ordinarios. En los últimos años, en nombre de un mundo casi desprovisto de reglas en el ciberespacio, las Big Techs han trabajado en el desarrollo de tecnologías con inteligencia artificial, sin preocuparse por los efectos secundarios del deep learning. La falta de controles externos por parte de los Estados y la tardía respuesta de la comunidad científica al cuestionar la extrema libertad con la que tales empresas operan, derivó en un vacío normativo y reflexivo sobre los impactos socio-económicos y sobre la falta de bases éticas y morales de las nuevas tecnologías en las sociedades posmodernas. El escenario se complicó a finales de 2022 con el lanzamiento de CHAT-GBT y, intensificando la carrera “geo-tecno-política” por la IA por parte de los Estados y disparando, concomitantemente, varias alertas a nivel mundial, incluso de las propias Big Techs, sobre los riesgos potenciales de sus herramientas inteligentes para el futuro. Este policy brief presenta como objetivo discutir brevemente dos documentos recientes dentro del debate sobre los sistemas de armas autónomos (LAWS): La Carta Abierta “Pause Giant AI Experiments: An Open Letter” del Institute Future for Life y la propuesta presentada por algunos Estados miembros en la última Convención de la CCW sobre Prohibiciones o Restricciones en el Uso de Ciertas Armas Convencionales que Pueden Considerarse Excesivamente Nocivas o de Efectos Indiscriminados.

Martins, Juliana Miranda

In the collective imagination of civilizations, from Greek mythology to the history of religions, there has always been a dialectic relationship of admiration and fear regarding the existence of a physical or spiritual intelligence superior to human intelligence. At the beginning of the 20th century, with the novels of Isaac Asimov up to the ones of Aldous Huxley and the advent of science fiction in the film industry, some scenarios that were only glimpsed on the pages and screens, have become real, thanks to the use of emerging technologies in ordinary human actions. This policy brief aims to briefly discuss two recent documents within the debate on autonomous weapons systems (LAWS): The Open Letter “Pause giant AI Experiments: An Open Letter” by the Future of Life Institute and the proposal filed by some member states in the last CCW Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects.  

Martins, Juliana Miranda

Nell'immaginario collettivo delle civiltà, dalla mitologia greca alla storia delle religioni, è sempre esistito un rapporto dialettico di ammirazione e timore nei confronti dell'esistenza di un'intelligenza fisica o spirituale superiore a quella umana. All'inizio del '900, dai romanzi di Isaac Asimov e Aldous Huxley e con l'avvento della fantascienza nell'industria cinematografica, alcuni scenari a quel tempo intravisti solamente nelle pagine e negli schermi sono ora diventati reali per effetto dell'utilizzo delle tecnologie emergenti in azioni degli esseri umani ordinari. Negli ultimi anni, in nome di un mondo quasi privo di regole nel cyberspazio, le Big Tech hanno lavorato allo sviluppo di tecnologie con intelligenza artificiale, senza preoccuparsi degli effetti collaterali del deep learning. La mancanza di controlli esterni da parte degli Stati e la tardiva risposta della comunità scientifica nel mettere in discussione l'estrema libertà con cui operano tali società, ha determinato una lacuna legislativa e riflessiva sugli impatti i e le basi etiche e morali delle nuove tecnologie nelle società postmoderne. Lo scenario si è complicato a fine 2022 con il lancio del CHAT-GPT e, intensificando la corsa “geo-tecno-politica” all'IA da parte degli Stati e innescando, in contemporanea, diverse allerte mondiali, anche da parte delle stesse Big Tech, sui potenziali rischi dei tuoi strumenti intelligenti per il futuro. Questo policy brief si propone una breve discussione su due documenti recenti nell’ambito del dibattito sui sistemi d'arma autonomi (LAWS): la lettera aperta "Pause giant AI Experiments: An Open Letter" dell’istituto Future of life e la proposta presentata da alcuni Stati membri nell'ultima Convenzione CCW sulla proibizione o la limitazione dell’uso di alcune armi convenzionali che possono essere considerate dannose o aventi effetti indiscriminati.

Martins, Juliana Miranda

No imaginário coletivo das civilizações, desde a mitologia grega à história das religiões, sempre existiu uma relação dialética de admiração e temor em relação à existência de uma inteligência física ou espiritual superior à inteligência humana. No início do século XX, a partir dos romances de Isaac Asimov e Aldous Huxley e com o advento da ficção científica na indústria cinematográfica, alguns cenários desde então somente vislumbrados nas páginas e nas telas se tornaram reais, com o uso das tecnologias emergentes nas ações humanas ordinárias. Este policy brief tem como objetivo fazer uma breve discussão sobre dois documentos recentes no interior do debate sobre os sistemas de armas autônomas (LAWS): A Carta aberta “Pause giant AI Experiments: An Open Letter” do Instituto Future for life e a proposta protocolada por alguns Estados membros no último CCW Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects.  

Campani Farias, Luis

On 25 and 26th of April 2023, members of the military, institutions, private sector, field experts and  of organized civil society gathered in the south of Luxembourg to discuss the regulation on autonomous weapons systems. The initiative was created by Luxembourg’s Directorate of Defense from the Ministry of Foreign and European Affairs. The event was composed of a keynote speech by Paul Scharre on the first day, and five panels on the second, each approaching a different aspect of the debate: politics, defense, regulations, technical and ethics. The event brings to the table the opportunity to fulfill the necessity to include other stakeholders in the conversation, such as the private sector and technicians.

Paiva, Ana Luiza Bravo, Rodrigues, Karina Furtado

In its planning for the Future War, what can Brazil learn from military powers to improve its defense innovation system? Throughout the text, we will try to present how the country in question has positioned itself in the face of challenges related to the modernization of the defense sector. Therefore, based on theoretical reflection on the subject, possible actions to be incorporated into the Brazilian defense innovation system will be listed. As a result, it was found that the lack of public investment in research and development, institutional-bureaucratic rigidity, and little interference from the Ministry of Defense in the performance and prioritization of projects in the Armed Forces are elements that compromise our ability to think about the present and even more, the future.

Paiva, Ana Luiza Bravo, Rodrigues, Karina Furtado

Em seu planejamento para a Guerra do Futuro, o que o Brasil pode aprender com potências militares para melhorar o seu sistema de inovação em defesa? Ao longo do texto, procuraremos apresentar como o país em questão tem se posicionado frente aos desafios referentes à modernização do setor de defesa. Sendo assim, a partir da reflexão teórica sobre o tema, procurar-se-á elencar ações possíveis de serem incorporadas ao sistema de inovação em defesa brasileiro. Como resultado, verificou-se que a falta de investimento público em pesquisa e desenvolvimento, o engessamento institucional-burocrático e a pouca ingerência do Ministério da Defesa sobre a atuação e priorização de projetos nas Forças Armadas são elementos que comprometem nossa capacidade de pensar o presente e, ainda mais, o futuro.

Silva, Daniele Dionísio, Rodriguez, Ana Paula

O Mar Mediterrâneo, um mar semifechado, tem uma importância histórica, social, estratégica e econômica única entre África, Oriente Médio e Europa. Pode-se dizer que constitui um dos espaços de fluxos mais ativos, politizados e securitizados na geopolítica mundial do século XXI. No processo de securitização do ambiente marítimo aparecem ameaças como o tráfico e contrabando de pessoas, o tráfico de armas e drogas, roubo armado e pirataria, ou mesmo correntes migratórias fora dos padrões regulares ou burocraticamente estabelecidos. Desde 1995, a União Europeia e seus Estados-Membros têm incluído a migração irregular como high policy e destinado recursos consideráveis para sua gestão. Considerando o escopo da Agenda 2030 para o Desenvolvimento Sustentável proposta pela ONU, os migrantes devem representar um grupo prioritário, pois os problemas estruturais em seus países leva-os muitas vezes à mobilidade, mesmo que seja uma mobilidade em barcos improvisados, que não possuem as mínimas condições de segurança a navegação, em uma travessia em um mar agitado e frio como o Mar Mediterrâneo. Deste modo, nesse texto, tentamos apresentar aspectos ou elementos do fluxo migratório no Mar Mediterrâneo ocorrido nos últimos quinze anos, ressaltando como as relações entre atores, discursos e práticas para gerenciar os fluxos tiveram que ser estabelecidas ou repensadas. Esses atores envolvidos acabam por estabelecer um equilíbrio entre abordagens estatais ou supranacionais estratégicas e humanitárias para a migração, onde às vezes os migrantes maritimos são apresentados de maneiras opostas como criminosos transnacionais, como migrantes irregulares ou como náufragos. Outro objetivo deste texto é, mesmo que brevemente, analisar o enquadramento das operações conjuntas realizadas no Mar Mediterrâneo como Sophia, Triton, Mare Nostrum, Poseidon e as operações de resgate realizadas por outros atores europeus, sugerindo que essas ações podem ser destacadas como parte de uma tentativa de governança complexa que inclui múltiplos atores de multiníveis e multissetoriais.

Silva, Daniele Dionísio, Rodriguez, Ana Paula

El mar Mediterráneo, un mar semicerrado, tiene una importancia histórica, social, estratégica y económica única en África, Oriente Medio y Europa.  Se puede decir que es uno de los espacios de flujos más activos, politizados y securitizados de la geopolítica mundial del siglo XXI. En el proceso de securitización del medio marítimo aparecen amenazas como la trata y el contrabando de personas, el tráfico de armas y drogas, el robo armado y la piratería, o incluso corrientes migratorias fuera de los estándares regulares o burocráticamente establecidos.  Desde 1995, la Unión Europea y sus Estados miembros han incluido la migración irregular como política elevada y se han asignado recursos considerables a su gestión. Considerando el alcance de la Agenda 2030 para el Desarrollo Sostenible propuesta por la ONU, los migrantes deben representar un grupo prioritario, ya que los problemas estructurales en sus países a menudo los llevan a la movilidad, aunque se trata de una movilidad en embarcaciones improvisadas, que no tienen las condiciones mínimas de navegación de seguridad, en una travesía en un mar agitado y frío como el mar Mediterráneo. Así, en este texto, tratamos de presentar aspectos o elementos del flujo migratorio en el mar Mediterráneo que se produjo en los últimos quince años, haciendo hincapié en cómo las relaciones entre actores, discursos y prácticas para gestionar los flujos tuvieron que ser establecidas o repensadas. Estos actores involucrados terminan logrando un equilibrio entre los enfoques estratégicos y humanitarios estatales o supranacionales de la migración, donde a veces los migrantes marítimos se presentan de manera opuesta como delincuentes transnacionales, como migrantes regulares o como náufragos. Otro objetivo de este texto es, aunque sea brevemente, analizar el marco de las operaciones conjuntas llevadas a cabo en el mar Mediterráneo como Sophia, Tritón, Mare Nostrum, Poseidón y las operaciones de rescate llevadas a cabo por otros actores europeos. Deben destacarse como parte de un intento de gobernanza compleja que incluya múltiples actores multisectoriales y de múltiples partes interesadas.

Ayres Pinto, Danielle Jacon, Mota, Rafael Gonçalves

A inteligência artificial (IA) deixou os filmes de ficção científica para fazer parte da realidade, presente no nosso cotidiano. Cada vez mais utilizamos serviços controlados por essa tecnologia, que passam a interagir mais fortemente com nossas vidas. O uso de equipamentos e softwares dotados de IA obrigam a sociedade a refletir não apenas sobre a pertinência de seu emprego, mas sobretudo sobre os limites éticos devem ser respeitados para que os direitos fundamentais sejam preservados. A utilização da IA como meio de identificação facial para dar acesso a serviços ou mesmo localizar foragidos da Justiça, bem como o uso de carros e armas autônomos, controlados por softwares inteligentes, exige um debate franco e direto sobre o que iremos (e devemos) permitir que tais equipamentos façam, não apenas substituindo o ser humano em diagnósticos de ação, mas efetivamente tomando decisões e agindo como protagonistas da realidade social. Não é possível que possamos prescindir da utilização de tais meios tecnológicos. Assim, mais do que nunca, o debate social e científico deve ser orientado para impor limites e reservas, não apenas ao desenvolvimento de tais meios. É preciso se questionar: estamos dispostos a abrir mão de nossa intimidade e privacidade para termos uma vida mais tecnologicamente ativa? Nesse sentido, o diálogo entre pesquisadores e pensadores de distintos Estados sobre o tema se faz cada dia mais necessário. Pois apesar das naturais diferenças entre os países e suas respectivas sociedades, os desafios são comuns e tendem a exigir soluções compartilhadas.

Ayres Pinto, Danielle Jacon, Mota, Rafael Gonçalves

The artificial intelligence (AI) left science fiction movies to become part of the reality, present in our daily routine. We increasingly use services controlled by this technology, which start to interact more strongly with our lives. The utilization of AI-equipped tools and softwares compel society to reflect not only about the pertinence of its use, but above all on the ethical limits that must be respected so that the fundamental rights are preserved. The utilization of AI as a mean to facial identification to give access to services or even to locate fugitives from justice, as well as the use of autonomous cars and weapons, controlled by smart softwares, demands an open and straight debate about what we will (and should) allow such equipment to do, not only replacing the humans in action diagnosis, but effectively taking decisions and acting as protagonists of social reality. It’s not possible that we can dispense the use of such technological means. Thus, more than ever, the social and scientific debate must be oriented towards imposing limits and reservations, not only to the development of these means. It is needed to question: are we willing to give up our intimacy and privacy in order to have a more technologically active life? In this sense, the dialogue between researchers and thinkers from different states about the subject is more and more necessary each day. Because despite the natural differences between the countries and their respective societies, the challenges are common and tend to demand shared solutions.

Rodriguez, Ana Paula, Duarte, Ana Beatriz, Becker, Luzia, Martins, Juliana Miranda

In 2021, the InterAgency Institute joined the international campaign Stop Killer Robots, whose objective is to pressure the creation of a new International Law that regulates the autonomy in the systems of weapons. The campaign was launched in 2013 and currently has more than 180 members. This, as a form of dissemination, opened a public notice in 2022, to grant funds that would be intended for its members who wanted to promote and disseminate the Stop Killer Robots proposal. The InterAgency Institute submitted a proposal which provided for the promotion of an event that would involve academics, students, government entities that could discuss topics on the use of lethal autonomous weapons and artificial intelligence. After evaluation by the Campaign Committee, the InterAgency Institute proposal was approved and awarded with the amount of US$ 4,000, which was used to pay technicians, travel expenses, accommodation, transport, meals, among other items described in the expense report. Our focus for the event was based on the need for discussion on the topic within the scope of the Community of Portuguese Speaking Countries (CPLP), given that in 2021, the 6th Review Conference of the UN Convention on Conventional Weapons (CCW) will not managed to pass the proposal to create legal instruments aimed at a total ban on the use of lethal autonomous weapons. Despite this, the topic continues to be debated within the framework of the Group of Government Experts on Emerging Technologies. According to a recent publication by the InterAgency Institute, the issue requires “a multisectoral approach”. According to the study, "countries not central to the weapons production system can represent an important force for public and political pressure."