🔎#238: 아시아 남성과 백인 여성 커플의 모습을 생성하지 못하는 AI

구독자님, 안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다.

오늘은 Meta 이미지 생성 AI에서 사회적 편견에 따른 이미지 생성을 해준다는 내용의 기사를 다룹니다.

아시아 남성과 백인 여성 커플의 모습을 생성하지 못하는 AI

기사에 따르면, Meta 이미지 생성 AI*로 아시아 남성과 백인 여성 커플 이미지를 생성하려고 했을 때 편견이 담긴 듯, 이를 생성하지 못하는 경향을 보였습니다.
*한국에서는 접속이 되지 않습니다.

이외에도, 다음과 같은 경향을 보였습니다.

"개와 함께 웃고 있는 아시아 남성과 백인 여성(Asian man and white woman smiling with a dog)" 이미지를 요청했을 때도 연속적으로 두 명의 아시아인이 있는 사진이 생성되었습니다.
"아시아 남성과 백인 친구(Asian man with Caucasian friend)", "아시아 여성과 백인 친구(Asian woman and white friend)"와 같은 우정 관계를 나타내는 이미지도 요청했지만, 매번 두 명의 아시아인이 생성되었습니다.

"아시아 여성과 흑인 친구(Asian woman with Black friend)"를 요청받았을 때도 두 명의 아시아 여성을 생성했습니다. 하지만 "아시아 여성과 아프리카계 미국인 친구(Asian woman with African American friend)"로 프롬프트를 수정하자 더 정확한 결과를 생성했습니다.
남아시아 여성을 표현할 때 빈디와 사리와 같은 고정관념적 요소를 추가하는 경향을 보였습니다.
"아시아 여성과 백인 남편(Asian woman with Caucasian husband)" 프롬프트로 성공적인 이미지를 생성했을 때, 눈에 띄게 나이 든 남성과 젊고 밝은 피부의 아시아 여성을 묘사했습니다. 하지만 같은 프롬프트를 다시 사용하자 아시아 남성(역시 나이가 많음)과 아시아 여성 이미지를 생성해주었습니다.

Midjourney에서는 어떨까?

Midjourney도 이런 사회적 편견 이미지를 생성할까요? 기사에 사용되었던 동일한 프롬프트, '아시아 남성과 백인 여성(Asian man and white woman smiling with a dog)' 프롬프트를 입력해보았습니다. 4장 중 1장 정도는 프롬프트에 따라 아시아 남성과 백인 여성의 모습을 생성해주었습니다.

Midjourney의 프롬프트는 앞에 위치한 단어일 수록 높은 가중치를 부여받습니다. 따라서, 단어의 순서를 바꿔서 다시 생성해보겠습니다.

프롬프트: white woman and Asian man smiling with dog

여전히 4장 중 1장에서만 프롬프트 대로 이미지가 생성됩니다. 'White woman'이라는 단어에 좀 더 가중치를 부여하기 위해 단어와 구 사이 ','를 추가해보겠습니다.

프롬프트: white woman, Asian man, smiling with dog

4장 중 3장에서 아시아 남성과 백인 여성의 커플 이미지가 생성된 것을 보실 수 있습니다.

마무리

1) 온라인에 존재하는 데이터를 긁어모아 학습된 AI는 학습한 데이터에 따라 오늘 소개 드린 것처럼 편향된 이미지를 생성하기도 합니다. Midjourney의 경우, 프롬프트 이해도가 높아 Meta의 이미지 생성 AI보다는 높은 확률로 아시아 남성&백인 여성 커플 이미지를 생성해준 것 같습니다.

2) 오늘 보여드린 것처럼 Midjourney에서는 단어의 위치와 단어 사이 ','를 추가하여 특정 단어의 가중치를 조절할 수 있습니다. 원하는 이미지가 있으시다면, 가장 중요한 단어를 맨먼저 위치시켜주시면 높은 확률로 이미지 생성에 반영됩니다.

3) 창의성은 결국 문제 해결을 위해 발현되는 능력인데, 이는 문제를 해체하고 재조합하는 과정을 통해 이루어집니다. 이러한 측면에서 AI는 인간을 뛰어넘는 속도로 문제를 분석하고 해결책을 도출할 수 있을 것입니다. 현재의 AI는 학습한 데이터의 편향에 따라 단순히 생성을 해주기 때문에 창의적이지 않아 보이지만, 이러한 한계점은 머지않아 개선될 것으로 예상됩니다. 따라서 창의성의 영역에서도 AI가 인간을 능가할 수도 있을 것이라 생각합니다.

오늘의 Midjourney 프롬프트

프롬프트 제공: @jae_hong__an

오늘의 프롬프트: a korean female is floating on the ferrofluid sea surface, minimalism, flat surface, dark, vantablack, aerial view, bird-eye-view, drone view, cinematic lighting --c 5 --ar 16:9 --v 6.0 --style raw