Agência de notícias da China, Pequim, 23 de junho: Como lidar com os riscos de direitos humanos causados pela IA?
Autor Xiao Jun abraçou o professor de direito do Instituto de Tecnologia de Beijing e Diretor Executivo de Centro de Pesquisa em Direitos Humanos de Ciência e Tecnologia
Atualmente, a tecnologia de inteligência artificial se desenvolveu rapidamente e tem sido amplamente utilizada nos cenários de produção e vida.A tecnologia de inteligência artificial trouxe enorme conveniência à vida social humana.
"Direitos humanos da inteligência artificial" é uma questão complexa e sensível, que não apenas envolve as considerações éticas no nível técnico, mas também toca a profunda busca da justiça, justiça e dignidade da sociedade humana.Embora o rápido desenvolvimento da tecnologia de inteligência artificial, devemos considerar profundamente os riscos dos direitos humanos da inteligência artificial e usar meios legais para restringir e orientar o desenvolvimento da tecnologia de inteligência artificial.
bet365 casino no deposit
Que risco de direitos humanos a inteligência artificial traz?
A inteligência artificial atual está na era da inteligência artificial fraca. .
Os riscos gerais de direitos humanos envolvem riscos de direitos humanos relacionados aos dados, bem como preconceito de algoritmo e decisões discriminatórias.
Se o petróleo é o "sangue" da indústria, os dados são o "sistema nervoso" da inteligência artificial.
Durante o estágio de coleta de dados, a coleção sem o consentimento do usuário excedeu o limite necessário da privacidade necessária do usuário; .
Durante a fase de processamento de dados, a incompletude da tecnologia de dessensibilização, a privacidade dos usuários não pode ser protegida e as brechas de rede do próprio sistema causarão as consequências do vazamento de dados após serem atacadas.
Durante o estágio de uso de dados, muitas empresas de tecnologia os venderam após a obtenção de informações do usuário, que é uma violação séria dos direitos de informação pessoal das pessoas comuns; outros, e uso e reorganize as obras de outros à vontade, que podem constituir uma violação dos direitos de propriedade intelectual de outros.
Durante a fase de armazenamento de dados, o armazenamento concentrado aumentou a conveniência do uso e também aumenta o risco de vazamento.Por exemplo, nos últimos anos, o vazamento de informações de uma plataforma não apenas violou severamente a privacidade das partes relevantes, mas também afeta a estabilidade da sociedade.
O preconceito do algoritmo refere -se ao impacto de posições não -neutras causadas pelos usuários durante a produção, distribuição e verificação de informações, o que leva à disseminação de conceitos de informação, como informações reais e reais.O preconceito do algoritmo pode ser devido ao design do algoritmo e ao preconceito do próprio desenvolvedor, ou ao preconceito dos dados de treinamento, e é mais provável que, no processo de interação humana -computadora, a máquina esteja inconsciente e não escolha aprender toda a ética e Preferências de seres humanos.
Do ponto de vista técnico, o preconceito do algoritmo não pode ser evitado.O preconceito do algoritmo fará com que os direitos iguais das pessoas sejam invadidos no virtual, e alguns grupos se tornarão gradualmente o objeto de discriminação de máquinas e comprimem seu espaço de sobrevivência em rede.Ao mesmo tempo, as decisões discriminatórias causadas pelo preconceito do algoritmo infringirão seriamente a equidade de certos grupos.
Em termos de possíveis riscos de direitos humanos, com o desenvolvimento adicional da inteligência artificial, a precisão e a eficiência de sua decisão superaram o assunto dos seres humanos. de humano para máquinas.Ao melhorar a eficiência, o risco de direitos humanos aumenta muito.Por exemplo, após a popularidade da direção inteligente, que deve assumir a responsabilidade de um acidente de trânsito, que despertou debate entre círculos acadêmicos e práticos.O principal corpo da lei tradicional é humano.
A inteligência artificial melhorou bastante a eficiência de todas as esferas da vida, e também pode desencadear a pior "onda descontraída" da história.A tecnologia de inteligência artificial pode completar com eficiência muitas tarefas repetidas e baixas de habilidades, o que fará com que um grande número de mão -de -obra para que esse trabalho esteja desempregado.
No futuro, a sociedade é uma sociedade altamente conectada afetará a igualdade da sociedade.
bet365 casino no deposit
Forte inteligência artificial e inteligência super artificial terão um grande impacto na sociedade humana.Atualmente, a geração mais avançada de inteligência artificial é apenas um tipo de inteligência artificial fraca.No futuro, a inteligência artificial não só pode pensar e trabalhar como seres humanos, mas também aprender a qualidade da mentira humana, gananciosa e tomar decisões que são prejudiciais para os seres humanos. Remover por vários meios para esclarecer vários meios que os humanos dominam o mundo inteiro.O desenvolvimento de qualquer tecnologia deve ser "pessoas -orientadas" para promover melhor o desenvolvimento humano.
Como restringir a aplicação da tecnologia de inteligência artificial?
Atualmente, a velocidade da inteligência artificial excedeu as expectativas.Em outras palavras, se o desenvolvimento da tecnologia de inteligência artificial aparecerá em breve, o campo de inteligência artificial não poderá seguir e o caos.
A regulamentação legal da inteligência artificial pode ser realizada a partir dos seguintes aspectos.
bet365 casino no deposit
Primeiro, fortaleça o plano regulatório regulatório administrativo.
Os padrões de proteção de direitos humanos de algoritmos substantivos de inteligência artificial devem ser estabelecidos, bem como o mecanismo de revisão e punição de instalações de apoio.Por meio de métodos padronizados, o mecanismo de decisão do algoritmo é implementado com um certo grau de visualização e até quantificação, e a regulação adicional de aplicações de algoritmo é baseada nisso.
bet365 casino no deposit
Colete informações e dados por meio de métodos administrativos para avaliar a proteção dos direitos humanos.Como o provedor de algoritmo não possui motivação suficiente, os usuários de algoritmo não têm poder para cobrar o custo da coleta de informações.
Garanta que os direitos e interesses de um pequeno número de grupos sejam totalmente expressos na intervenção administrativa, e os canais e a legitimidade das demandas de um grupo minoritário em uma norma podem reduzir o custo de comportamento de sua expressão e melhorar suas oportunidades adotadas.
Segundo, melhore a legislação relevante, como dados, algoritmos.
Como o recurso mais importante na era da inteligência artificial, a regulamentação dos dados deve ser ainda mais refinada. ao estabelecimento de relacionados relacionados deve ser estabelecida.
Para legislação relacionada a algoritmos, os designers e usuários do sistema de IA devem ser obrigados a divulgar os princípios de trabalho, fontes de dados e lógica de decisão de seus algoritmos, especialmente para decisões importantes que afetam os direitos e interesses pessoais; O processo de tomada de decisão pode ser entendido e revisado pelos seres humanos. e corrija o preconceito no algoritmo para garantir a justiça e a discriminação do processo de tomada de decisão.
Terceiro, regulamentar através do mercado.
Os usuários espontâneos de algoritmo espontâneos do mercado escolhem sua própria escolha, provocando algoritmos de inteligência artificial para competir com os serviços tradicionais e, em última análise, os usuários optam por executar o melhor serviço na proteção dos direitos humanos.Em um mercado totalmente competitivo, os usuários podem optar por fornecer outros concorrentes que prestam serviços justos, que eliminaram gradualmente o provedor de serviços de algoritmo injusto.Devido à diminuição do efeito marginal dos serviços de algoritmo, os provedores de serviços justos podem reduzir o custo médio devido a mais usuários e aumentar sua competitividade.Nas especificações do mercado, os problemas de gerenciamento administrativo são resolvidos e não é necessária uma restauração complexa de discriminação e sistema regulatório.As entidades de mercado se ajustam espontaneamente para atender à escolha do usuário, perceber o conflito do equilíbrio de valor, substituir a supervisão auto -proclamada ineficiente e promover a proteção dos direitos humanos dos serviços de algoritmo.
bet365 casino no deposit
Finalmente, para garantir o direito de conhecer, escolher e apelar.
Deve -se garantir que os usuários entendam os atributos de inteligência artificial, a identidade do provedor de serviços, as informações coletadas, as políticas de proteção de privacidade e o canal de apelação.O provedor de serviços também tem a obrigação de explicar suas cláusulas.
Certifique -se de que, no cenário do setor público, pelo menos as opções "2+1" (mais de dois programas de inteligência artificial diferentes e soluções tradicionais) sejam fornecidas.Nos cenários de comportamento comercial, pelo menos é necessário fornecer soluções tradicionais ou optar por não aceitar serviços.
Certifique -se de que o provedor de algoritmo possa re -JUDE e fornecer a base para o julgamento.Quando os direitos dentro do campo dos direitos humanos são violados, eles defendem a infração e a compensação de violação.Ao mesmo tempo, há o direito de especificar a agência administrativa de buscar alívio.
O desenvolvimento da inteligência artificial é rápido e sua "caixa preta técnica" também torna os especialistas em inteligência artificial incapazes de explicar muitos fenômenos.Pode -se dizer que a inteligência artificial é como uma hélice forte, permitindo que a sociedade humana experimente voar novamente. e promover a saúde da tecnologia de inteligência artificial e boa.(sobre)
Introdução ao entrevistado:
Xiao Junbao, professor e supervisor de doutorado da Faculdade de Direito da Universidade de Tecnologia de Pequim, e diretor executivo do Centro de Pesquisa em Direitos Humanos de Ciência e Tecnologia do Instituto de Tecnologia de Beijing em Base de Educação e Treinamento de Direitos Humanos.Diretor da Sociedade de Direito Chinês de Direito e da Associação de Pesquisa Constitucional.Ele é o autor de "A teoria do sominismo das pessoas", "palestras sobre direitos humanos internacionais" e "disputas morais dos direitos humanos".A palestra sobre a "Lei Internacional de Direitos Humanos" foi um curso de graduação de alta qualidade na Universidade de Pequim.Ele participou da Conferência do Conselho de Direitos Humanos da ONU e, enquanto falava, e foi para os Estados Unidos, Europa e outros lugares para participar do diálogo e trocas internacionais de direitos humanos.
Fale conosco. Envie dúvidas, críticas ou sugestões para a nossa equipe através dos contatos abaixo:
Telefone: 0086-10-8805-0795
Email: portuguese@9099.com