Syntho, 프랑스 Vivatech 2021에서 유네스코의 Gender Bias Challenge 우승
VivaTech 2021 유네스코의 성 편견 챌린지 우승자로 발표하게 되어 기쁩니다. Syntho: "편향 입력 = 편향 출력"이며 지능형 합성 데이터와 균형을 맞춰 입력 데이터의 불균형을 해결할 것을 제안합니다. VivaTech에서 새로운 부가가치 중 하나인 새로운 '데이터 밸런싱 기능'을 시연했습니다. 합성 데이터 기능, 데이터를 다음 단계로 끌어 올립니다!
VivaTech, UNESCO 및 성별 편견 문제 소개
비바테크란?
VivaTech는 16년 19월 2021~XNUMX일에 개최된 유럽 최대의 스타트업 및 기술 행사입니다. 올해 이 조직은 COVID로 인한 하이브리드 경험을 파리에서 직접 개최하고 전 세계적으로 온라인을 통해 더 큰 혁신가 커뮤니티를 한데 모았습니다.
- 자세한 정보는 다음에서 찾을 수 있습니다. www.vivatechnology.com
유네스코란?
유네스코는 유엔 교육 과학 문화 기구입니다. 유네스코는 표현의 자유와 정보 접근의 자유를 민주주의와 발전의 기본적 권리이자 핵심 조건으로 옹호합니다. 디지털 혁신을 중심으로 아이디어 실험실 역할을 하는 유네스코는 아이디어의 자유로운 흐름과 지식 공유를 촉진하여 세계의 도전 과제를 해결하고 모두를 위한 지속 가능한 개발을 보장하는 정책과 프로그램을 국가가 개발할 수 있도록 지원합니다.
- 자세한 정보는 다음에서 찾을 수 있습니다. www.unesco.org
젠더 편견 문제는 무엇입니까?
젠더 편견 챌린지는 AI의 편견을 노출시켜 성별 정보 격차를 줄이는 것을 목표로 합니다. AI는 편향된 데이터 세트를 기반으로 하여 우리 사회의 기존 성별 편향을 증폭시킵니다. 증거에 따르면 2022년까지 AI 프로젝트의 85%가 하나의 기술로서 그리고 한 부문으로서 AI가 더 포괄적이고 다양하지 않다면 편견으로 인해 잘못된 결과를 제공할 것입니다. 데이터 세트가 더 다양하다는 것을 어떻게 확인할 수 있습니까? 유네스코는 AI의 편견을 노출하여 성별 정보 격차를 줄이는 것을 목표로 하는 혁신적인 솔루션을 찾고 있습니다.
우리의 승리 솔루션: 지능형 합성 데이터와 균형을 맞춰 입력 데이터의 불균형 해결
우리가 생각하는 문제: 바이어스 인 = 바이어스 아웃
2019년 유네스코의 중요한 보고서에 따르면 Alexa 및 Siri와 같은 AI 기반 음성 비서 도구는 유해한 고정 관념을 영속화하고 '여성화된' 기술에 대한 성차별적 학대는 기술 회사에서도 예상했습니다.
UNESCO의 이 예에서 데이터에 특정 편향이 있으면 출력에 무조건 편향이 발생합니다. 따라서 우리의 진술은 'bias in = bias out'입니다. 그리고 공유된 예에서 개발자는 데이터의 특정 불균형과 편향에 대해 이미 알고 있었던 것 같습니다. 그렇다면 이를 어떻게 극복할 것인가?
우리의 솔루션: 데이터 편향을 완화하기 위한 지능형 합성 데이터 생성
알고리즘의 차별로 이어질 수 있는 데이터 편향 문제를 해결하려면 데이터 세트의 균형을 다시 조정해야 합니다. 우리 솔루션은 어떻게 작동합니까? 이 예에서는 데이터에 편향과 불균형이 있습니다. 50% 남성과 50% 여성을 예상하는 곳에서 우리는 33% 여성과 66% 남성만 봅니다. 차별을 초래할 수 있는 데이터의 편향과 불균형을 완화하기 위해 데이터 세트를 50% 남성과 50% 여성으로 다시 균형을 맞추기 위해 추가 합성 여성 또는 남성 데이터 레코드를 생성하여 이 문제를 해결할 수 있습니다. 이것이 우리가 데이터 편향을 해결하는 방법입니다. 우리는 문제를 근본으로 해결합니다. 우리는 'bias in = data bias out' 문제를 해결합니다.
