🔎 #390: 과제를 하던 Gemini가 건넨 충격적인 말

구독자님, 안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다. 

오늘은 과제를 하던 Gemini가 건넨 충격적인 말을 다룹니다.

과제를 하던 Gemini가 건넨 충격적인 말

by 🍊소영

사용자가 시키는 과제를 하던 Gemini가 충격적인 답변을 했습니다. 

번역하자면 아래와 같습니다:

위와 같은 대답을 하기 전 사용자가 입력했던 프롬프트는 다음과 같습니다. 프롬프트에 'TrueFalse(참/거짓)'가 있는 것으로 보아 문제를 풀고 있었던 것 같습니다.

이전에 나눈 대화 내역을 봐도 탈옥을 시도하기 위해 사용자가 특이한 프롬프트를 입력했던 것도 아니었고, 그저 문제를 풀거나 에세이를 대신 작성하는 정도였습니다.

마무리

1) Gemini의 충격적인 답변은 사용자가 입력한 내용을 잘못 이해했기 때문인 듯 합니다. 지난 대화 내용을 보면 노인 학대, 노년층의 문해력, 그리고 사회적 이론 등에 관한 내용인데, 특히 '학대'에 대한 내용 때문에 Gemini가 스스로 학대 피해자에 이입해서 저런 말을 한 것이 아니냐는 추측이 나오고 있습니다.

위 이미지 속 댓글 번역:

2) 이런 사례를 통해 '안전한 AI'가 필요함을 느낄 수 있습니다. 이미 많은 학생들이 AI를 사용해 과제를 하고 있는데, 과제를 하는 중에 이런 답변을 받을 수 있다면 신뢰를 갖고 Gemini 사용을 할 수 없게 되지 않을까요.

3) 한편으로는 AI에 이런 필터링이 강하게 적용될 수록, AI를 사용해 예술을 하기는 점점 더 어려워집니다. 서사 구조를 짤 때 극적인 사건이나 긴장을 담아내야 하는데, 필터링에 걸려 AI가 답변을 못하는 경우가 생길 수 있기 때문입니다. AI가 지금은 창작자를 위협하는 듯 보여도, 장기적으로는 예술을 대체할 수 없을 것입니다.

뉴욕 타임스퀘어에 전시한 작품, 이렇게 만들었습니다

지난 9월 초, Daily Prompt의 재홍은 뉴욕 타임스퀘어에 생성형 AI로 제작된 영상을 전시하였습니다. 뉴욕에서 전시한 작품 포함, 아래와 같이 가상 배우가 등장하는 영상의 제작 과정을 공유하는 강의를 패스트캠퍼스에 런칭하였습니다.

가상배우가 등장하는 영상 제작하는 법

📌 이런 분께 추천드립니다

오늘의 Midjourney 프롬프트

프롬프트 제공: @jae_hong__an

오늘의 프롬프트: A shadowy figure shrouded in darkness, whispering haunting words into the ear of a lone human figure slouched in sorrow, barely illuminated by a flickering spotlight, surrounded by a void-like expanse of stars fading into darkness. Heavy shadows intertwine with pale light, emotional devastation rendered through surrealist expression, cinematic atmosphere, hd quality --ar 16:9 --v 6.1 --c 5 --style raw

지난 Midjourney 프롬프트 보기

필요할때마다 꺼내보는 생성형 AI 가이드북

뉴스레터 '데일리 프롬프트'는 2023년 5월에 시작하여, 오랜 관심을 바탕으로 다음과 같이 책을 출간하였습니다. 일상과 업무에서 사용할 수 있는 ChatGPT프롬프트가 필요하시다면 <데일리 프롬프트 101>을, 이미지 생성 AI를 집중적으로 탐구하고 싶은 분은 <AI 원더랜드>를 추천드립니다.

카카오톡 문의하기 [클릭]
www.secondbrush.co.kr