.
Declaração dos Líderes do BRICS sobre Governança Global da Inteligência Artificial
A Inteligência Artificial (IA) representa uma oportunidade única para impulsionar o desenvolvimento em direção a um futuro mais equitativo, promovendo a inovação, aumentando a produtividade, avançando práticas sustentáveis e melhorando a vida das pessoas em todo o planeta de maneira concreta.
Para atingir esse objetivo, a governança global da IA deve mitigar riscos potenciais e atender às necessidades de todos os países, especialmente os do Sul Global. Ela deve operar conforme estruturas regulatórias nacionais e a Carta das Nações Unidas, respeitar a soberania, bem como ser representativa, orientada para o desenvolvimento, acessível, inclusiva, dinâmica, responsiva, fundamentada na proteção de dados pessoais, nos direitos e interesses da humanidade, na segurança, na transparência, na sustentabilidade e conducente à superação das crescentes brechas digitais e de dados, dentro de e entre os países. É necessário um esforço global coletivo para estabelecer uma governança de IA que represente nossos valores compartilhados, mitigue riscos, construa confiança e garanta colaboração e acesso internacional amplo e inclusivo, incluindo capacitação para países em desenvolvimento, com as Nações Unidas no centro.
A proliferação de iniciativas de governança e as visões divergentes na coordenação multilateral em nível internacional podem agravar as assimetrias existentes e a lacuna de legitimidade da governança global em questões digitais, erodindo ainda mais o multilateralismo.
De forma a apoiar debate construtivo em direção a uma abordagem mais equilibrada, nós, os líderes do BRICS, concordamos com um conjunto de diretrizes para promover o desenvolvimento, a implantação e o uso responsável de tecnologias de IA para o desenvolvimento sustentável e o crescimento inclusivo. Essas diretrizes, que se referem estritamente ao uso da IA no domínio não militar, devem ser aplicadas por meio das estruturas nacionais ou internacionais aplicáveis, bem como por meio do desenvolvimento de padrões e protocolos interoperáveis, em processos inclusivos, transparentes e baseados em consenso.
SOBRE MULTILATERALISMO, LEGITIMIDADE E SOBERANIA DIGITAL
A Organização das Nações Unidas é Central para a Governança Global da IA. A fragmentação e a duplicação dos esforços globais de governança da IA devem ser evitadas a todo custo. Devemos fortalecer a governança internacional da IA por meio do sistema das Nações Unidas, como estrutura internacional plenamente inclusiva e representativa. Devemos promover a participação e o papel significativos dos mercados emergentes e países em desenvolvimento e do Sul Global nos processos de de decisão no âmbito das iniciativas da ONU, ao mesmo tempo em que se reconhecem os papéis complementares dae multissetoriais, bem como incentivar o intercâmbio de políticas e diálogos sobre IA, com o objetivo de estimular a inovação e promover o crescimento econômico.
A Governança Colaborativa da IA é Complexa, mas possível. Uma rede de atores relevantes, de países desenvolvidos e em desenvolvimento, deve fornecer contribuições com seus conhecimentos, perspectivas e recursos únicos, dentro de suas respectivas funções e responsabilidades. Recordando o papel fundamental e de liderança dos governos na condução da governança da IA, cooperaremos estreitamente com o setor privado, com organizações da sociedade civil, organizações internacionais, comunidades técnicas e acadêmicas e demais atores relevantes, em busca de inclusão e representatividade.
A Soberania Digital e o Direito ao Desenvolvimento são Fundamentais para a Governança Global da IA. Apoiamos firmemente o direito de todos os países de usufruir dos benefícios da economia digital e das tecnologias emergentes, particularmente a Inteligência Artificial, mantendo a defesa dos direitos fundamentais, para estabelecer suas próprias estruturas regulatórias em suas jurisdições, desenvolver capacidades em pesquisa de IA, promover autonomia tecnológica e inovação, garantir a proteção de dados e promover sua própria economia digital, aprimorando a infraestrutura digital, promovendo talentos locais e garantindo a segurança e proteção de seus cidadãos contra riscos da IA.
SOBRE REGULAÇÃO DE MERCADO, GOVERNANÇA DE DADOS E ACESSO À TECNOLOGIA
A Concorrência Justa e a Regulamentação do Mercado são Cruciais para um Futuro Equitativo da IA. A economia digital requer a salvaguarda dos direitos e obrigações dos Estados, empresas e usuários sob as legislações e regulamentações nacionais e os acordos internacionais aplicáveis, para nivelar o campo de atuação em direção à inovação e ao crescimento econômico. Ressaltamos a importância de se evitar fragmentação regulatória e de promover regulamentações de mercado justas e transparentes que incentivem a concorrência, aumentem a competitividade e evitem distorções de qualquer tipo, garantindo assim um ambiente de mercado sustentável e saudável.
A Governança de Dados é Chave para uma Governança Inclusiva da IA. Destacamos que a governança justa, inclusiva e equitativa de dados é fundamental para permitir que os países em desenvolvimento usufruam dos benefícios da economia digital e das tecnologias emergentes, incluindo a Inteligência Artificial. Também reconhecemos a necessidade de estabelecer marcos de governança de dados, em linha com nossos compromissos sob o Entendimento do BRICS sobre Governança da Economia de Dados, para construir confiança e conferir acesso equitativo, acordado, seguro e protegido a dados de qualidade pelos países em desenvolvimento, respeitando as estruturas legais aplicáveis relacionadas ao direito à privacidade e à proteção de dados pessoais, transparência algorítmica, direitos de propriedade intelectual e segurança nacional.
O Acesso à Tecnologia de IA Deve Ser Justo, Equitativo, Habilitador e Inclusivo. Todos os países, independentemente de seu estágio de desenvolvimento econômico, têm o direito de se beneficiar, desenvolver e usar a IA. Destacamos o papel da cooperação internacional para facilitar o acesso a tecnologias baseadas em IA e componentes críticos, para remover barreiras aos recursos financeiros necessários para pesquisa e inovação em IA e para desenvolver conhecimentos, habilidades e estruturas de gerenciamento de risco necessários para alavancar efetivamente as tecnologias de IA, especialmente em países de baixa e média renda.
É Necessária uma Abordagem Equilibrada para Proteger a Propriedade Intelectual e Salvaguardar o Interesse Público. Precisamos de um equilíbrio entre direitos de propriedade, transparência e responsabilidade para salvaguardar o interesse público, a transferência internacional de tecnologia e o cumprimento das legislações nacionais e do direito internacional aplicável. Deve existir uma proteção adequada dos direitos de propriedade intelectual e, em especial, dos direitos autorais contra a utilização da IA não autorizada, a fim de evitar a extração abusiva de dados e a violação da privacidade, permitindo mecanismos de remuneração justa. Salvaguardas devem garantir a responsabilização e a conformidade com a legislação relevante, incluindo transparência sobre parâmetros de entradas e saídas dos modelos de IA.
A IA Deve Ser Aberta e Promover Ecossistemas de Inovação. Incentivamos o desenvolvimento em código aberto e a cooperação científica e tecnológica internacional, de acordo com políticas e prioridades nacionais, por meio de mecanismos de Ciência Aberta e Inovação Aberta, como facilitadores essenciais para a construção de capacidades em pesquisa, desenvolvimento, inovação, proteção de dados, soberania de dados e implantação de IA, bem como para permitir que pesquisadores, desenvolvedores e organizações examinem, auditem e contribuam para sistemas de IA seguros, protegidos, confiáveis e transparentes. Devemos garantir uma participação significativa e promover abordagens colaborativas inclusivas para evitar barreiras ao desenvolvimento global da IA e suas cadeias de suprimentos. Incentivamos o desenvolvimento de modelos fundamentais abertos, especializados e eficientes para promover o crescimento de ecossistemas de inovação em IA.
Padrões Internacionais Devem Levar a uma IA Inclusiva, Representativa e Acessível. O desenvolvimento de padrões, especificações e protocolos técnicos para sistemas de IA deve envolver o setor público, organizações de desenvolvimento de padrões e agências especializadas da ONU, para garantir confiança, interoperabilidade, segurança e confiabilidade das tecnologias de IA em todo o processo de desenvolvimento e em diferentes plataformas e aplicativos. Precisamos evitar que processos de definição de normas sejam utilizados como barreiras à entrada em mercados para as pequenas empresas e as economias em desenvolvimento.
SOBRE EQUIDADE E DESENVOLVIMENTO SUSTENTÁVEL
A IA Deve Estar Disponível para Todos. Infraestrutura robusta, conectividade significativa e inclusão digital são pré-requisitos para a implantação da IA em qualquer país. Serviços governamentais digitais, incluindo aqueles baseados em infraestrutura pública digital, podem atuar como catalisadores para a inclusão na economia digital e o acesso dos cidadãos a seus direitos e benefícios. Assimetrias predominantes em capacidades e infraestrutura devem ser abordadas por medidas domésticas, incluindo bancos multilaterais de desenvolvimento, para promover a adoção local e o desenvolvimento da IA em países em desenvolvimento.
A IA Pode Levar a um Desenvolvimento Sustentável Colaborativo. Buscamos apoiar aplicações de IA, inclusive por meio de código aberto, que abordam desafios críticos de desenvolvimento em setores como saúde, educação, segurança, transporte, energia, agricultura, meio ambiente, recursos hídricos e gestão de resíduos, de acordo com as leis e prioridades nacionais. Os benefícios da IA para o desenvolvimento sustentável devem ser continuamente promovidos. Vamos nos concentrar em iniciativas de pesquisa, desenvolvimento e inovação que promovam e fortaleçam capacidades e aspirações tecnológicas locais e reduzam as lacunas tecnológicas entre países desenvolvidos e em desenvolvimento.
A Sustentabilidade Ambiental é um Pré-Requisito. A IA deve ser usada para mitigar emissões, adaptar às mudanças climáticas, aprimorar os esforços de conservação ambiental, promover a gestão e a otimização sustentável dos recursos, manter o equilíbrio ecológico e contribuir para a evolução dos pilares social e econômico do desenvolvimento sustentável, de acordo com prioridades nacionais. O desenvolvimento e a implantação da IA devem ser sustentáveis e minimizar seu próprio impacto ambiental, abordando aspectos como emissões de gases de efeito estufa, consumo de energia e água, uso de materiais e lixo eletrônico. As janelas de oportunidades abertas pela transição para uma economia de baixa emissão de carbono devem permitir que os países em desenvolvimento liderem por meio de avanços tecnológicos em IA.
A IA Deve Garantir Trabalho Decente e Maior Produtividade. Os sistemas de IA têm o potencial de aumentar a produtividade, estimular a inovação e criar oportunidades de emprego, mas também apresentam desafios, preocupações e riscos sobre as condições de trabalho, intensidade do trabalho, deslocamento de empregos e ameaças ao emprego e à dignidade dos trabalhadores. É imperativo salvaguardar os direitos e o bem-estar de todos os trabalhadores, particularmente daqueles diretamente afetados pela transformação digital, considerando o rápido crescimento das plataformas digitais e o crescente impacto estrutural da IA, inclusive IA generativa, no mercado de trabalho. Também é fundamental garantir que o desenvolvimento, a implantação e o uso da IA levem em consideração a adaptabilidade e a compatibilidade em termos de recursos humanos e utilizem as vantagens tecnológicas, como a IA, para promover o trabalho decente e o emprego pleno e produtivo.
A IA Deve Ser uma Ferramenta para Transformar a Educação e a Aprendizagem Humanas. À medida que os sistemas de IA selecionam informações, personalizam experiências e oferecem conselhos, estamos preocupados que a dependência excessiva desses sistemas possa afetar a cognição, os processos de tomada de decisão e a capacidade de lidar com cenários informacionais complexos. Afirmamos nossa disposição em promover habilidades de alfabetização digital, em particular de professores e alunos, para avaliar criticamente o conteúdo gerado por IA, entender os vieses incorporados nos algoritmos e cultivar um forte senso de autonomia intelectual e habilidades de pensamento crítico.
SOBRE UMA IA ÉTICA, CONFIÁVEL E RESPONSÁVEL PARA O BEM-ESTAR DE TODOS
A IA Deve Ser Inclusiva. Reconhecemos os riscos relacionados à apropriação indevida e à deturpação de conhecimento, patrimônio e valores culturais que são insuficientemente representados em bases de dados e modelos de IA. Reafirmamos a importância de estruturas éticas, transparentes e responsáveis, como a Recomendação da UNESCO sobre a Ética da Inteligência Artificial. Os sistemas de IA devem ser desenvolvidos com respeito rigoroso à diversidade linguística, cultural, racial, geográfica e demográfica de todos os países. Isso inclui cooperação internacional para treinamento em conjuntos de dados de qualidade, abrangentes, multilíngues e inclusivos e para o desenvolvimento de talentos locais em IA.
Vieses Discriminatórios Devem Ser Mitigados. Precisamos de ferramentas robustas para identificar e mitigar erros e vieses algorítmicos negativos e garantir mecanismos de auditoria independentes que salvaguardem justiça, forneçam padrões de avaliação dos riscos advindos de vieses e evitem discriminação e exclusão. Mulheres, minorias, pessoas com deficiência e grupos em situações de vulnerabilidade, como crianças, jovens e idosos, tendem a ser os mais afetados por sistemas de IA treinados com materiais tendenciosos. A colaboração interdisciplinar entre pessoas de diferentes origens é fundamental para estabelecer padrões, melhorar a explicabilidade da operação e dos resultados do modelo e criar estratégias práticas que protejam contra vieses negativos e apoiem o desenvolvimento responsável e equitativo de sistemas de IA.
O Interesse Público Vem em Primeiro Lugar. Em abordagem centrada no ser humano, promoveremos uma relação harmoniosa entre homem e máquina, com autoridade e supervisão máximas dos humanos, onde a IA continua a ser construída como uma ferramenta poderosa para aumentar as capacidades humanas. Priorizaremos a supervisão humana, a transparência na tomada de decisões de IA e mecanismos eficazes de responsabilidade para que as tecnologias de IA possam ser desenvolvidas e implantadas com responsabilidade e segurança, mitigando riscos e maximizando os benefícios sociais.
Foco nos Fatos. A geração de textos, imagens, áudios e conteúdo de vídeo falsos com aparência realista representa ameaças significativas à integridade e autenticidade das informações e pode levar à manipulação da opinião pública, incitação à agitação social e enfraquecimento da confiança nas instituições públicas. Buscaremos uma abordagem multifacetada para promover a integridade da informação, maior centralidade nas estratégias de educação midiática e esforços de comunicação local. Tal abordagem inclui o desenvolvimento de ferramentas para sinalizar rapidamente a desinformação e a informação falsa, a promoção da alfabetização digital e das competências críticas dos indivíduos para avaliar melhor os conteúdos digitais e o estabelecimento de orientações e regulamentos éticos claros, em consonância com a necessidade de proteção da privacidade e dos dados digitais e de desenvolvimento e utilização de tecnologias de IA na divulgação de informações.
Segurança e Confiança Devem Ser Inerentes aos Sistemas de IA. Reconhecemos a necessidade de alcançar um desenvolvimento da IA que seja seguro, ético, confiável e responsável, para o benefício de todos. Os países devem promover coletivamente a inovação e o acesso às tecnologias de IA, ao mesmo tempo em que abordam os riscos imediatos e de longo prazo, em linha com considerações de políticas e de segurança nacionais. Reafirmamos a importância de abordar e proteger coletivamente contra os riscos representados pelo uso malicioso de tecnologias de IA. Os sistemas de IA, bem como outras tecnologias da informação e de comunicação, devem ser cuidadosamente projetados de forma a permitir a detecção e prevenção eficazes de uso indevido, como fraude, ataques a computadores, crimes cibernéticos ou manipulação de dados.
O CAMINHO ADIANTE
É Necessária uma Abordagem Prudente em Relação à AGI. É crucial que a pesquisa sobre a Inteligência Artificial Geral (AGI) seja desenvolvida de forma ética e implantada de forma responsável e confiável, com vistas a ajudar a acelerar o crescimento econômico, especialmente nos países em desenvolvimento, e a enfrentar desafios econômicos e sociais prementes. Se concentrada nas mãos de poucos atores, a AGI pode exacerbar as desigualdades e criar novas formas de dependência tecnológica, impondo sérios desafios ao desenvolvimento sustentável.
Promover um Cenário de IA Justo e Inclusivo. Os países do BRICS buscarão adotar posição comum e proativa para promover um ambiente digital equitativo para todos, identificar perspectivas comuns e intensificar os esforços coletivos globais para operacionalizar o Diálogo Global da ONU sobre Governança de IA e o Painel Científico Internacional Independente sobre IA, garantindo papéis significativos e participação dos países em desenvolvimento. Coordenaremos esforços para promover nossas abordagens compartilhadas de IA, incluindo essas diretrizes, nos fóruns internacionais relevantes. Acolhemos contribuições para aperfeiçoar essas diretrizes, particularmente as vindas de outros países em desenvolvimento, e permaneceremos abertos a revisitá-las.
***
BRICS Leaders´ Statement on the Global Governance of Artificial Intelligence
Artificial Intelligence represents a milestone opportunity to boost development towards a more equitable future, fostering innovation, enhancing productivity, advancing sustainable practices, and concretely improving the lives of people everywhere on the planet.
To achieve that goal, global governance of AI should mitigate potential risks and address the needs of all countries, especially those of the Global South. It must operate under national regulatory frameworks and the UN Charter, respect sovereignty as well as be representative, development-oriented, accessible, inclusive, dynamic, responsive, grounded in personal data protection, the rights and interests of humanity, safety, transparency, sustainability, and conducive to overcoming the growing digital and data divides, within and between countries. A collective global effort is needed to establish an AI governance that upholds our shared values, addresses risks, builds trust, and ensures broad and inclusive international collaboration and access, including capacity building for developing countries, with the United Nations at its core.
The proliferation of governance initiatives and the diverging views in multilateral coordination at the international level may aggravate existing asymmetries and the legitimacy gap of global governance on digital matters, further eroding multilateralism as a result.
To support a constructive debate towards a more balanced approach, we, the BRICS Leaders, have agreed on a set of guidelines to foster responsible development, deployment, and use of AI technologies for sustainable development and inclusive growth. These guidelines, that strictly refer to the use of AI in the non-military domain, should be applied through either domestic or applicable international frameworks, as well as through the development of interoperable standards and protocols, in inclusive, transparent, and consensus-based processes.
ON MULTILATERALISM, LEGITIMACY, AND DIGITAL SOVEREIGNTY
The United Nations is Central to Global AI Governance. Fragmentation and duplication of global AI governance efforts must be avoided at all costs. We must strengthen AI international governance through the United Nations system as a fully inclusive and representative international framework. We must promote emerging markets and developing countries’ (EMDCs) and the Global South’s meaningful participation and role in decision-making processes under UN initiatives, while recognizing the complementary roles of regional and multi-stakeholder frameworks, and encourage policy exchanges and dialogues on AI, with a view to spur innovation and promote economic growth.
Collaborative Governance of AI is Complex, but Possible. A network of relevant stakeholders, from developed and developing countries, should provide contributions with unique expertise, perspectives, and resources, within their respective roles and responsibilities. Recalling the fundamental and leading role of governments in conducting AI governance, we will closely cooperate with the private sector, civil society organizations, international organizations, the technical and academic communities, and all other relevant stakeholders towards inclusivity and representation.
Digital Sovereignty and the Right to Development are Central to Global AI Governance. We firmly support the right of all countries to harness the benefits of the digital economy and emerging technologies, particularly Artificial Intelligence, while upholding fundamental rights, to establish their own regulatory frameworks within their jurisdictions, to develop capacities in AI research, foster technological autonomy and innovation, ensure data protection, and promote their own digital economy, by enhancing digital infrastructure, fostering local talent, and ensuring safety and security of their citizens from AI risks.
ON MARKET REGULATION, DATA GOVERNANCE, AND ACCESS TO TECHNOLOGY
Fair Competition and Market Regulation are at the Heart of an Equitable AI Future. The digital economy requires safeguarding the rights and obligations of States, companies, and users under domestic legal frameworks and regulations and applicable international agreements to level the playing field towards innovation and economic growth. We underline the importance of avoiding regulatory fragmentation and of promoting fair and transparent market regulations that encourage competition, enhance competitiveness and avoid distortions of any kind, thus ensuring a sustainable and healthy market environment.
Data Governance is Key to Inclusive AI Governance. We highlight that fair, inclusive and equitable governance of data is critical to enable developing countries to harness the benefits of the digital economy and emerging technologies, including artificial intelligence. We also acknowledge the need to establish data governance frameworks, in accordance with our commitments under the BRICS Data Economy Governance Understanding, to build trust and to confer equitable, agreed upon, safe, and secure access to quality data by developing countries, while respecting applicable legal frameworks related to the right to privacy, protection of personal data, algorithmic transparency, intellectual property rights, and national security.
Access to AI Technology Should be Fair, Equitable, Enabling and Inclusive. All countries, irrespective of their stage of economic development, have the right to benefit from, develop, and use AI. We underline international cooperation to facilitate access to AI technology and critical components, to remove barriers to financial resources required for AI research and innovation, and to develop necessary knowledge, skills, and risk management frameworks to effectively leverage AI technologies, especially in low and middle-income countries.
A Balanced Approach is Needed to Protect Intellectual Property and Safeguard the Public Interest. We need a balance between proprietary rights, transparency, and accountability to safeguard public interest, the international transfer of technology, and compliance with domestic legislation and applicable international law. Appropriate protection of intellectual property rights and in particular copyright against unauthorized AI use must be in place to prevent exploitative data extraction and violation of privacy, allowing for fair remuneration mechanisms. Safeguards must ensure accountability and compliance with relevant legislation, including transparency over AI model inputs and outputs.
AI Should be Open and Promote Innovation Ecosystems. We encourage open-source development and international scientific and technological cooperation, in line with national policies and priorities, through Open Science and Open Innovation mechanisms as key enablers to building capacities in AI research, development, innovation, data protection, data sovereignty, and deployment, as well as to allow researchers, developers, and organizations to scrutinize, audit, and contribute to safe, secure, trusted, and transparent AI systems. We should ensure meaningful participation and foster inclusive collaborative approaches to avoid barriers to global AI development and supply chains. We encourage the development of resource-efficient, specialized, and open foundational models to promote the growth of innovation ecosystems in AI.
International Standards Should Lead to Inclusive, Representative and Accessible AI. The development of technical standards, specifications, and protocols for AI systems must involve the public sector, standards development organizations, and specialized UN agencies to ensure trust, interoperability, safety, and reliability of AI technologies across the development process and different platforms and applications. We must avoid standard setting processes being used as barriers to market entry for smaller companies and developing economies.
ON EQUITY AND SUSTAINABLE DEVELOPMENT
AI must be Available to All. Robust infrastructure, meaningful connectivity, and digital inclusion are prerequisites for the deployment of AI in any country. Digital government services, including those based on digital public infrastructure, may act as catalysts to inclusion in the digital economy and access to citizen’s rights and benefits. Prevalent asymmetries in capacities and infrastructure should be addressed by domestic measures, including multilateral development banks (MDBs), to advance local adoption and development of AI in EMDCs.
AI can Lead to Collaborative Sustainable Development. We seek to support AI applications, including through open source, that address critical development challenges in sectors such as healthcare, education, security, transport, energy, agriculture, environment, water resources, and waste management, in accordance with national laws and priorities. The benefits of AI for sustainable development should be continuously promoted. We will focus on research, development, and innovation initiatives that foster and empower local technological capacities and aspirations and bridge technological gaps between developed and developing countries.
Environmental Sustainability is a Prerequisite. AI should be used to mitigate emissions, adapt to climate change, enhance environmental conservation efforts, promote sustainable resource management and optimization, maintain ecological balance, and contribute to the evolution of the social and economic pillars of sustainable development, in line with national priorities. AI development and deployment should be sustainable and should minimize their own environmental impact, addressing aspects such as greenhouse gas emissions, energy and water consumption, use of materials, and electronic waste. The windows of opportunities opened by the transition to a low carbon emissions economy should allow developing countries to harness the momentum and to lead through technological advancements in AI.
AI Must Ensure Decent Work and Enhanced Productivity. AI systems have the potential to enhance productivity, stimulate innovation, and create job opportunities, but they also pose challenges, concerns, and risks over working conditions, work intensity, job displacement, and threats to employment and workers’ dignity. It is imperative to safeguard the rights and wellbeing of all workers, particularly those directly affected by the digital transformation, considering the rapid growth of digital platforms and the increasing structural impact of AI, including generative AI, on the job market. It is also paramount to ensure that the design, deployment, and use of AI take into consideration adaptability and compatibility in terms of human resource capabilities and utilize the advantages of technology, such as AI, to promote decent work and full and productive employment.
AI Should be a Tool to Transform Human Education and Learning. As AI systems curate information, personalize experiences, and offer advice, we are concerned that excessive reliance on these systems may affect cognition, decision-making processes, and the ability to navigate complex information landscapes. We affirm our disposition to foster digital literacy skills, in particular of teachers and learners, to critically evaluate AI-generated content, understand embedded biases within algorithms, and cultivate a strong sense of intellectual autonomy and critical thinking skills.
ON ETHICAL, TRUSTWORTHY AND RESPONSIBLE AI FOR THE WELFARE OF ALL
AI Must be Inclusive. We recognize risks relating to misappropriation and misrepresentation of knowledge, heritage, and cultural values that are insufficiently represented in datasets and AI models. We reaffirm the importance of ethical, transparent, and accountable frameworks, such as UNESCO’s Recommendation on the Ethics of Artificial Intelligence. AI systems must be developed with rigorous respect to the linguistic, cultural, racial, geographical, and demographic diversity of all countries. This includes international cooperation for training on comprehensive, multilingual, and inclusive quality datasets and the development of local AI talent.
Discriminatory Bias must be Mitigated. We need robust tools to identify and mitigate errors and negative algorithmic biases and ensure independent audit mechanisms that safeguard fairness, provide standards on assessment of risks from bias, and avoid discrimination and exclusion. Women, minorities, persons with disabilities, and groups in vulnerable situations, such as children, youth, and the elderly, tend to be the most affected by AI systems trained with biased materials. Interdisciplinary collaboration among people from different backgrounds is key to establishing standards, enhancing explainability of model operation and outputs, and creating practical strategies that guard against negative bias and support the responsible and equitable development of AI systems.
Public Interest Comes First. Under a human-centered approach, we will foster a harmonious human-machine relationship, with ultimate authority and oversight from humans, where AI continues to be built as a powerful tool for augmenting human capabilities. We will prioritize human supervision, transparency in AI decision-making, and effective accountability mechanisms so that AI technologies can be developed and deployed responsibly and securely, mitigating risks and maximizing societal benefits.
Stick to the Facts. The generation of realistic fake text, images, audio, and video content poses significant threats to information integrity and authenticity and may lead to manipulation of public opinion, incitement of social unrest, and the undermining of trust in public institutions. We will seek a multi-faceted approach to promote information integrity, greater centrality to media education strategies, and local communication efforts. This includes developing tools to quickly flag disinformation and misinformation, fostering digital literacy and critical skills in individuals to better evaluate online content, and establishing clear ethical guidelines and regulations, in line with the need for protection of privacy and digital data and for the development and use of AI technologies in information dissemination.
Safety and Trust must be Inherent to AI Systems. We acknowledge the need to achieve safe, ethical, trustworthy, and responsible AI development for the benefit of all. Countries must collectively promote innovation in and access to AI technologies, while addressing both immediate and long-term risks in accordance with national policies and security considerations. We reaffirm the importance of collectively addressing and protecting against the risks posed by malicious uses of AI technologies. AI systems, as well as other information and communications technologies, should be carefully designed in a way that enables effective detection and prevention of misuse, such as fraud, computer attacks, cybercrimes, or data manipulation.
THE ROAD AHEAD
A Prudent Approach is Needed Towards AGI. It is crucial that research on Artificial General Intelligence (AGI) be developed ethically and deployed responsibly and in a trusted manner, with a view to helping accelerate economic growth, especially in EMDCs, and address pressing economic and social challenges. If concentrated in the hands of a few actors, AGI could exacerbate inequalities and create new forms of technological dependence, raising serious challenges to sustainable development.
Promoting a Fair and Inclusive AI Landscape. BRICS countries will seek to adopt a common, proactive position to advance an equitable digital environment for all, identify common perspectives and intensify global collective efforts towards operationalizing the UN Global Dialogue on AI Governance and the International Independent Scientific Panel on AI, while ensuring meaningful roles and participation of developing countries. We will coordinate efforts to promote our shared approaches to AI, including these guidelines, across relevant international fora. We welcome contributions to further develop these guidelines, particularly from other developing countries, and will remain open to revisiting them.