Overview
이 연구는 WeBuildAI라는 커뮤니티가 협력하여 알고리즘 정책을 설계하는 프레임워크를 제안합니다. 이 접근 방식은 거버넌스와 의사 결정에서 컴퓨터 알고리즘의 영향을 다루며, 효율성과 사회적 가치 사이의 균형이 필요하다는 것을 인식하고, 다양한 이해 관계자의 이익이 도덕적으로 정당하게 대표되도록 보장합니다.
WeBuildAI의 주요 컨셉
Human-Centered Computing and AI : 이 논문은 인간 중심의 AI를 강조하며, 참여적 알고리즘 설계, 집단 참여, 그리고 알고리즘 공정성에 중점을 둡니다.
Algorithmic Governance and Social Impact : 알고리즘이 사회적 기능을 관리하는 데 있어 중요한 역할을 하고, 편견이나 불공정한 결정이 지속될 수 있는 잠재적 위험을 강조합니다.
Stakeholder Involvement : 이 논문은 AI 시스템 개발에서 이해 관계자의 더 큰 참여를 권장하며, 대중의 기대와 공정성 개념을 알고리즘에 반영하기 위한 실용적 과제를 다룹니다.
WeBuildAI는 커뮤니티 구성원 및 이해 관계자들이 알고리즘의 목표, 혜택, 비용 및 가치 원칙을 정의하는 참여적 설계 과정을 제시합니다. 이 프레임워크는 개인들이 자신의 견해를 대표하는 컴퓨터 모델을 만들 수 있게 해주며, 이러한 모델들이 정책 결정에 공동으로 기여합니다.
Methodology
본 연구에서 제안한 WeBuildAI 프레임워크의 상세 내용은 다음과 같습니다.
1. 개별 신념 모델 구축 : 이 단계에서는 알고리즘에 사용될 정보 및 특징을 결정하고 다양한 상황에서 안정적인 정책을 형성합니다. 이는 다양한 맥락에서 판단을 검토해 개별 신념 모델 간 일관성을 유지하도록 합니다.
2. 특징 선택: 초기 단계는 알고리즘의 의사결정에 사용될 특징을 결정하는 것으로, 이해관계자와의 인터뷰 또는 설문을 통해 이루어집니다. 이 특징들은 쌍별 비교 구성이나 특징별 직접 가중치 지정에 사용됩니다.
3. 모델 구축: 이 과정에는 기계 학습 및 명시적 규칙 명세가 포함됩니다. 기계 학습 모델은 쌍별 비교를 통해 개발되며, 명시적 규칙은 이해관계자의 의견에 기반하여 지정됩니다. 이 반복적인 과정은 참가자들이 자신의 신념을 통합하고 외부화하는 데 도움을 줍니다.
4. 모델 선택: 모델을 구축한 후에는 각 모델이 내린 예시 결정들과 함께 시각화합니다. 이는 이해관계자들이 각 모델을 이해하고 자신의 신념을 가장 잘 반영하는 모델을 선택하도록 돕습니다.
5. 집단 집계: 개별 모델이 구축되면 다음 단계는 이 모델들을 통합하는 집단적 규칙을 구축하는 것입니다. 이 과정에서는 보르다 방식과 같은 간단하고 효과적인 투표 방법이 활용됩니다.
6. AI 시스템에 모델 통합: 이해관계자가 생성한 모델들은 AI 시스템에 통합되며, 각 모델은 각 의사결정 과제에 대해 대안의 순위를 매깁니다. 이 순위는 최종 순위 목록을 생성하기 위해 집계됩니다.
7. 설명 및 의사결정 지원 : 마지막 단계는 순위가 매겨진 권장 사항을 이해관계자에게 설명하여 그들의 참여가 정책과 의사결정 과정에 어떻게 영향을 미쳤는지를 보여줍니다.
과정 전반에 걸쳐, 결과적인 알고리즘과 관리 기관에 대한 참가자들의 태도를 이해하기 위한 인터뷰가 진행됩니다. 또한 여러 개별 세션과 장기간에 걸친 워크숍을 포함하여, 철저한 커뮤니티 참여와 이해관계자 참여를 보장합니다.
이러한 요소들을 인간 중심 AI 디자인 프로세스 섹션에 통합하면 AI 개발에서 참여적 설계가 어떻게 적용되는지에 대한 상세하고 실용적인 이해를 제공할 수 있습니다.
Case Study : 412 Food Rescue
이 프레임워크는 412 Food Rescue라는 수요 기반 식품 기부 운송 서비스를 위한 매칭 알고리즘 개발에 적용되었습니다. 이 사례 연구는 다양한 이해 관계자들(기부자, 수령 기관, 자원 봉사자 및 직원)이 알고리즘 설계에 효과적으로 참여하여 기부 분배의 공정성과 효율성을 균형 있게 하는 것을 보여주었습니다. 이 과정은 절차적 공정성과 분배 결과 모두를 개선하며, 참가자들의 신뢰와 공정에 대한 인식을 강화하는 데 기여한 집단적으로 구축된 알고리즘입니다.
Contributions
Framework and Methodology : 이 논문은 참여적 알고리즘 설계를 위한 새로운 프레임워크를 제시하며, 인간 중심 알고리즘 및 기술 디자인 분야에 기여합니다.
Real-World Application : 사례 연구를 통해, 이 논문은 커뮤니티가 알고리즘 설계에 참여하는 것의 실행 가능성, 잠재력 및 도전과제를 보여줍니다.
Insights on Fairness : 절차적으로 공정한 알고리즘에 대한 중요한 통찰을 제공하며, 알고리즘 공정성에 대한 이해를 높입니다.
Critical Assessment
Complexity in Aggregation of Views : 보르다 규칙과 같은 집계 방법은 개인의 선호를 과도하게 단순화할 수 있습니다.
Algorithmic Transparency and Understanding : 알고리즘 리터러시 수준이 다양한 이해 관계자들 사이에서 종합적인 이해를 보장합니다.
Dependency on Stakeholder Engagement : 프레임워크의 성공은 지속적인 이해 관계자 참여에 크게 의존합니다.
Conclusion
WeBuildAI 논문은 인간 중심 AI와 참여적 설계의 발전하는 분야에 중요한 기여를 합니다. 이 논문은 알고리즘 설계에서 커뮤니티 참여를 위한 실용적인 프레임워크를 제공하며, 포괄성, 공정성, 그리고 알고리즘 거버넌스에서의 이해 관계자 참여의 중요성을 강조합니다. 사례 연구는 프레임워크의 실제 세계적 적용을 보여주며, 다양한 이해관계를 균형있게 조정하고 알고리즘 결정에서 신뢰와 공정성을 향상시키는 효과를 보여줍니다. 이 작업은 학술 연구에만 기여하는 것이 아니라 AI 개발에서 윤리적이고 참여적인 접근 방식을 위한 청사진을 제공합니다.
댓글
의견을 남겨주세요