[CP]AI뉴스 #14 : AI 위조와 예방

🤖 오늘의 뉴스 목차

1. Microsoft likely to unveil its first AI chip next month to cut Nvidia GPU costs

2. US Warns EU’s Landmark AI Policy Will Only Benefit Big Tech

3. "눈에 안 보이는 워터마크도 무용지물"...실험 결과 모두 '세척' 가능

4. Google announces new generative AI search capabilities for doctors

5. Meta and X questioned by lawmakers over lack of rules against AI-generated political deepfakes

6. "국내 첫 텍스트 프롬프트 BGM 제작"...뉴튠, '크리에이터 타깃' 음악 생성 AI 론칭한다

7. "해리포터가 누구?"...MS, AI 학습 데이터 중 특정 정보 삭제 기술 공개

📰 Microsoft likely to unveil its first AI chip next month to cut Nvidia GPU costs

(마이크로소프트, Nvidia GPU 비용을 줄이기 위해 다음 달 첫 AI 칩 발표 예정)

📅 날짜: October 9, 2023

🔗 원문 링크: ETCIO.com

📝 요약: 마이크로소프트는 다음 달에 첫 인공지능 칩을 발표할 것으로 예상되며, 이는 Nvidia의 그래픽 처리 유닛(GPU)에 대한 의존성을 줄일 것으로 보입니다. 이 움직임이 "Nvidia가 설계한 AI 칩에 대한 의존성을 줄이고, 이들이 폭발적인 수요로 인해 공급이 부족해진 상황을 돕게 될 것"이라고 말했습니다.

보고서에 따르면, 마이크로소프트의 AI 칩은 데이터 센터 서버를 위해 설계되었으며, Nvidia GPU와 유사합니다. 마이크로소프트의 데이터 센터 서버는 현재 OpenAI와 Intuit을 포함한 클라우드 고객을 위한 최첨단 LLM을 구동하기 위해 Nvidia GPU를 사용하고 있습니다. Athena라는 코드명을 가진 AI 칩에 대한 정보는 올해 4월에 The Information이 처음 보도했습니다.

📰 US Warns EU’s Landmark AI Policy Will Only Benefit Big Tech

(미국, EU 의 랜드마크 AI 정책이 거대 기술에만 도움이 될 것이라고 경고)

📅 날짜: Fri, October 6, 2023

🔗 원문 링크: Yahoo Finance

📝 요약: 미국은 유럽 연합(EU)에게 제안된 인공지능(AI) 규제 법안이 규정 준수 비용을 감당할 자원이 있는 기업들에게 유리하고, 작은 기업들에게는 해로울 것이라고 경고했습니다. 미국의 분석은 주로 유럽 의회 버전의 AI Act에 중점을 둡니다. 이 법안은 생성적 AI에 대한 규칙을 포함하고 있습니다.

문서에 따르면, AI Act 법은 "모호하거나 정의되지 않은" 용어를 기반으로 한 규칙을 포함하고 있어 EU 법규가 "생산성에 예상되는 부진을 약화시키고, 일자리와 투자가 다른 시장으로 이동할 가능성이 있음"을 경고하고 있습니다. 새로운 규칙은 또한 "EU 내에서의 AI R&D와 상업화에 대한 투자를 방해할 것"이며, 이는 대규모 언어 모델을 훈련시키는 것이 자원 집약적이기 때문입니다. 라고 밝혔습니다.

📰"눈에 안 보이는 워터마크도 무용지물"...실험 결과 모두 '세척' 가능

📅 날짜: 2023.10.09

🔗 원문 링크: AI타임스

📝 요약: 딥페이크와 같은 인공지능(AI)으로 생성된 이미지에 워터마크를 추가하여 구별하려는 시도가 효과가 없다는 주장이 나왔습니다.

메릴랜드대학교의 연구팀은 '눈에 보이지 않는' 주요 워터마크를 모두 제거했다는 논문을 발표하였고, 이 기술을 '세척(washing out)'이라고 명명하였습니다. 이 연구팀은 눈에 보이는 워터마크뿐만 아니라 육안으로 식별이 불가능한 워터마크도 탐지하고 제거하는 실험을 진행하였습니다.

이와 관련하여 소헬 페이지 메릴랜드대 컴퓨터 과학 교수는 “현재로서는 신뢰할 수 있는 워터마킹이 없다”라고 언급하였습니다. 이 문제는 딥페이크 이미지에 워터마크를 심는 것과 관련된 'AI 안전 서약'을 한 오픈AI, 구글, 메타 등 주요 생성 AI 기업에게 중요한 이슈가 될 수 있습니다.

📰 Google announces new generative AI search capabilities for doctors

(구글, 의사들을 위한 새로운 생성적 AI 검색 기능 발표)

📅 날짜: October 9, 2023

🔗 원문 링크: CNBC

📝 요약: 구글 클라우드는 임상의가 다양한 데이터 소스의 정보에 신속하게 액세스하는 데 도움이 되는 새로운 인공 지능 기반 검색 기능을 발표했습니다.

정보는 여러 시스템과 형식에 걸쳐 저장되는 경우가 많기 때문에 의사와 간호사가 정보를 찾는 것이 어려울 수 있지만 Google의 새로운 도구는 모든 정보를 한 곳으로 가져옵니다.

새로운 기능은 Google의 Vertex AI 검색 플랫폼을 통해 의료 및 생명과학 조직에 제공될 예정입니다. 회사는 이것이 의료 종사자들의 귀중한 시간과 에너지를 절약하는 데 도움이 될 것이라고 말했습니다.

📰 Meta and X questioned by lawmakers over lack of rules against AI-generated political deepfakes

(Meta와 X는 AI로 생성된 정치적 딥페이크에 대한 규칙이 부족하여 국회의원으로부터 질문을 받았습니다.)

📅 날짜: 2023.10.06

🔗 원문 링크: AP News Article

📝 요약: 두 명의 민주당 의원은 목요일 Meta CEO Mark Zuckerberg 와 X CEO Linda Yaccarino 에게 서한을 보내 자사 플랫폼에서 AI로 생성된 정치 광고가 등장하는 것에 대해 "심각한 우려"를 표명하고 각 의원에게 이를 억제하기 위해 만들고 있는 규칙이 있는지 설명하도록 요청했습니다.

Google은 후보자의 목소리나 행동을 위조할 수 있는 AI가 생성한 사기성 정치 광고 에 새로운 라벨을 붙이겠다고 밝힌 최초의 대형 기술 회사 입니다.

이제 일부 미국 의원들은 소셜 미디어 플랫폼인 X, 페이스북, 인스타그램 에 왜 그렇게 하지 않는지 설명하라고 요구하고 있습니다.

📰 "국내 첫 텍스트 프롬프트 BGM 제작"...뉴튠, '크리에이터 타깃' 음악 생성 AI 론칭한다

📅 날짜: 정보 없음

🔗 원문 링크: AI타임스

📝 요약: 뉴튠은 국내에서 텍스트 프롬프트 기반의 음악 생성 AI를 론칭했습니다. 이 서비스는 사용자가 원하는 음악의 특징 및 분위기를 텍스트 형태로 입력하면, AI가 그에 맞는 배경음악을 생성합니다.

뉴튠은 음악 생성 서비스 '믹스오디오:P2C'와 BGM 생성 서비스 '믹스오디오DJ'를 기반으로 '크리에이터 특화 버전'을 연내 출시할 예정입니다.

이 서비스는 음악 지식이나 전문 기술 없이도 직관적인 인터페이스를 통해 기존 아티스트의 음악을 재조립, 재구성할 수 있습니다. 뉴튠은 음악의 각 요소를 독립 데이터로 다루고, 이를 조합하여 새로운 음악을 만들어냅니다.

📰 "해리포터가 누구?"...MS, AI 학습 데이터 중 특정 정보 삭제 기술 공개

📅 날짜: 정보 없음

🔗 원문 링크: AI타임스

연구진은 메타의 오픈 소스 LLM '라마 2 7B' 모델에서 해리포터에 대한 모든 지식을 삭제하는 데 성공하였습니다.

이 기술은 LLM 모델을 훈련하여 해리포터와 가장 관련 있는 토큰을 식별하고, 이를 일반적인 표현으로 변경하여 대체 예측을 생성한 뒤, 대체 예측에 대한 기본 모델을 미세 조정하여 해리포터가 언급될 때마다 메모리에서 원본 텍스트를 삭제합니다. 이 기술은 기초를 제공하는 수준이며, 더 많은 연구와 테스트가 필요하다고 연구진은 밝혔습니다.