Princípios de IA Confiável da Salesforce
Princípios de IA Confiável da Salesforce
Na Salesforce, somos guiados por cinco valores essenciais: confiança, sucesso do cliente, inovação, igualdade e sustentabilidade. Também estamos profundamente comprometidos com o desenvolvimento e implantação responsáveis de nossa tecnologia, impulsionados pelo nosso Escritório de Uso Ético e Humano.
Uma das tecnologias emergentes com grande potencial para melhorar o estado do mundo é a inteligência artificial (IA), pois ela aumenta a inteligência humana, amplia as capacidades humanas e fornece insights acionáveis que impulsionam melhores resultados para nossos funcionários, clientes e parceiros.
Acreditamos que os benefícios da IA devem ser acessíveis a todos. Mas não basta apenas fornecer as capacidades tecnológicas da IA; temos a importante responsabilidade de garantir que a IA seja segura e inclusiva para todos. Levamos essa responsabilidade a sério e estamos comprometidos em fornecer aos nossos funcionários, clientes e parceiros as ferramentas de que precisam para desenvolver e usar a IA de maneira segura, precisa e ética.
Nossos Princípios
Em 2018, começamos a articular nossos princípios de IA confiável e queríamos garantir que eles fossem específicos aos produtos, casos de uso e clientes da Salesforce. Foi uma jornada de um ano para solicitar feedback de colaboradores individuais, gerentes e executivos de toda a empresa, em todas as organizações, incluindo engenharia, desenvolvimento de produtos, UX, ciência de dados, jurídico, igualdade, assuntos governamentais e marketing. Executivos de todas as nuvens e funções aprovaram os princípios, incluindo nossos então co-CEOs Marc Benioff e Keith Block. Como discutimos em nosso Modelo de Maturidade de IA Ética, embora essa jornada possa parecer longa, é uma experiência formativa importante para garantir que todos na empresa tenham contribuído, entendam sua responsabilidade por viver esses princípios e tenham aderido à sua implementação em seu trabalho diário.
Responsável
Nos esforçamos para salvaguardar os direitos humanos, proteger os dados com os quais somos confiados, observar os padrões científicos e impor políticas contra o abuso. Esperamos que nossos clientes usem nossa IA de forma responsável e em conformidade com seus acordos conosco, incluindo nossa Política de Uso Aceitável.
Responsável
Acreditamos em nos responsabilizar perante nossos clientes, parceiros e sociedade. Buscaremos feedback independente para a melhoria contínua de nossas práticas e políticas e trabalharemos para mitigar danos aos clientes e consumidores.
Transparente
Nos esforçamos para garantir que nossos clientes entendam o "porquê" por trás de cada recomendação e previsão impulsionada por IA, para que possam tomar decisões informadas, identificar resultados não intencionais e mitigar danos.
Empoderador
Acreditamos que a IA é melhor utilizada quando combinada com a capacidade humana, aumentando as pessoas e permitindo-lhes tomar melhores decisões. Aspiramos a criar tecnologia que capacite todos a serem mais produtivos e impulsionarem maior impacto dentro de suas organizações.
Inclusivo
A IA deve melhorar a condição humana e representar os valores de todos aqueles impactados, não apenas dos criadores. Vamos promover a diversidade, promover a igualdade e fomentar a equidade por meio da IA.
Dos Princípios à Prática
Não basta ter um conjunto de princípios. A ética é um esporte de equipe e, para ser significativa, todos na empresa devem entender suas responsabilidades por viver esses princípios. Abaixo estão exemplos de como traduzimos esses princípios em prática.
Responsável
Recomendados pelo LinkedIn
Começamos perguntando não apenas se podemos fazer algo, mas também se devemos fazê-lo, antes de construir qualquer recurso de IA. Trabalhamos com especialistas externos em direitos humanos para aprender, crescer e descobrir continuamente novas maneiras de proteger os direitos humanos.
Educamos e capacitamos nossos clientes a tomar decisões informadas sobre como usar nossa IA de forma responsável. Faremos isso criando ferramentas e recursos para ajudar os funcionários, clientes e parceiros da Salesforce a identificar e mitigar vieses nos sistemas que estão construindo e usando (por exemplo, sinalizando quando categorias de dados protegidos e variáveis proxy estão sendo usadas em um modelo, fornecendo transparência sobre os fatores que mais influenciam as previsões individuais), permitindo que clientes e parceiros entendam a responsabilidade que têm de adotar a IA de maneira segura e confiável.
Aderecemos às mais altas práticas de segurança e privacidade para ajudar a antecipar e mitigar danos não intencionais e manter nossos produtos seguros. Cumprimos as leis aplicáveis que regulam a pesquisa e o uso de IA. Também nos esforçamos para atender aos mais altos padrões científicos e de qualidade em nossa pesquisa, garantindo sua segurança e compartilhando-a por meio de publicações revisadas por pares, conferências e eventos do setor.
Responsável
Nos envolvemos com especialistas externos em direitos humanos e ética da tecnologia por meio de nosso Conselho Consultivo de Uso Ético e workshops. Também convidamos o feedback de nossos clientes por meio de Conselhos Consultivos de Clientes e diálogo aberto e o incorporamos em nosso processo de deliberação.
Acreditamos na importância de retribuir à nossa indústria e sociedade, colaborando com nossos colegas por meio de grupos do setor, fóruns da sociedade civil e organizações governamentais (por exemplo, Instituto Nacional de Padrões e Tecnologia dos EUA, Comitê Consultivo Nacional de IA dos EUA, Conselho Consultivo de Singapura sobre o Uso Ético de IA e Dados) para melhorar continuamente nossas práticas e políticas.
Permitimos que os funcionários levantem dúvidas e preocupações por meio de canais como nosso sistema anônimo de relatórios corporativos e governança online, canais Slack e endereço de e-mail do grupo.
Transparente
A transparência inclui não apenas como construímos nossos modelos, mas também por que eles fizeram a previsão ou recomendação que fizeram. Publicamos cartões de modelo que descrevem como os modelos foram criados, casos de uso intencionais e não intencionais, implicações éticas ou sociais conhecidas e pontuações de desempenho. Também fornecemos explicabilidade do modelo quando uma previsão ou recomendação de IA é feita.
Permitimos que os clientes mantenham o controle de seus dados e modelos a todo momento. Os dados que gerenciamos não pertencem à Salesforce, pertencem ao cliente. Também fornecemos aos clientes uma divulgação clara dos termos de uso e das aplicações pretendidas da capacidade de IA da Salesforce.
Empoderador
Nos esforçamos para abstrair a complexidade da IA para tornar possível que pessoas de todos os níveis de habilidade técnica - não apenas cientistas de dados avançados - construam aplicativos de IA com apenas alguns cliques, não com código. Além disso, criamos e oferecemos educação gratuita em IA por meio do Trailhead para permitir que qualquer pessoa adquira as habilidades necessárias para os empregos da Quarta Revolução Industrial. Isso inclui ferramentas como medir o impacto disparatado (uma definição de viés) e preencher automaticamente cartões de modelo (como rótulos nutricionais para modelos), bem como fornecer orientação dentro do aplicativo para que os clientes saibam como usar nossa IA de forma responsável.
A equipe de IA da Salesforce está comprometida em oferecer avanços na pesquisa de IA para informar novas categorias de produtos e garantir que nossos clientes permaneçam na vanguarda dos avanços tecnológicos.
Inclusivo
Testamos nossos modelos usando conjuntos de dados diversos e representativos que são mais adequados para como o modelo está sendo usado. Buscamos entender o impacto dos serviços de IA em uma ampla gama de clientes, usuários finais e contextos. Isso inclui a realização de Workshops de Verificação de Consequências e Workshops de Construção com Intenção. E nos esforçamos para construir equipes inclusivas que representem experiências e pontos de vista diversos, alinhando-nos com nosso valor central de igualdade.
Somos todos um. Estamos juntos nisso.
Na Salesforce, acreditamos que o uso ético de tecnologias avançadas, como a IA, é uma questão cada vez mais complexa. Deve ser abordado claramente - não apenas por nós, mas por toda a nossa indústria. Acolhemos um diálogo multistakeholder que inclui nossos funcionários, clientes, parceiros e comunidades.
Ao nos unirmos para resolver desafios emergentes e garantir que esses novos avanços levem em conta experiências diversas, podemos impulsionar uma mudança positiva com o poder da IA - e impulsionar o desenvolvimento da IA com a perspectiva que nos ajuda a aproveitar ao máximo o potencial humano.