[기사 스크랩] 텍스트보다 이미지가 편향 심각...이제는 AI 검색 및 알고리즘 추천으로 확대

AI 뉴스

 

• 기사 제목 : 텍스트보다 이미지가 편향 심각...이제는 AI 검색 및 알고리즘 추천으로 확대
• 기사 링크 : https://www.aitimes.com/news/articleView.html?idxno=164938

[11월5일] 텍스트보다 이미지가 편향 심각...이제는 AI 검색 및 알고리즘 추천으로 확대 - AI타임스

 

---

본문 및 헤드라인

 

우리가 하루에 보는 이미지나 영상은 얼마나 될까요. 그리고 이런 것들이 미치는 영향은 어느 정도일까요.

 BBC가 5일 이런 점들에 대한 흥미로운 연구 내용을 전했습니다. 이제는 인공지능(AI)으로 인해 이미지가 주는 영향이 더욱 커지고 있으며, 이에 따른 성별, 인종별 편향이 중요한 문제로 떠오른다는 내용입니다.

 올해 초 등장한 한 보고서에 따르면 일반적인 사용자는 하루에 6시간40분을 인터넷에서 소비한다고 합니다. 그리고 소셜 미디어나 검색, 웹사이트 등을 통해 우리는 매일 디지털 이미지에 폭격을 당하고 있습니다. 그리고 웹에는 매일 수십억개의 이미지가 업로드됩니다.

 이 정도면 우리가 의식하지 못하는 가운데 이미지에 영향을 받을 수밖에 없는 것은 당연합니다.

 또 올해 초 네이처에 게재된 연구에서는 구글이나 위키피디아, IMDB의 이미지를 분석, '농부'나 'CEO', 'TV 리포터'와 같은 직업을 검색할 때 어떤 성별이 우세한지 조사해 봤습니다. 

 그 결과 여성이 전반적으로 과소평가된 것은 물론, 성별 고정관념이 강하다는 결과가 나왔습니다. 즉 '배관공'이나 '개발자' '투자 은행원' '심장외과 의사' 등과 같은 범주는 남성이, '가정부'나 '간호사' '치어리더' '발레 무용수' 등은 여성일 가능성이 높았다는 말입니다.

 이런 현상이 사람들에게 어떤 영향을 미치는 지도 확인했습니다.

 423명의 미국 참가자를 두 그룹으로 나눠, 한쪽은 구글을 사용해 텍스트로 직업을 검색하도록 했고 나머지는 이미지 검색을 하도록 실험했습니다. 그다음 모든 참가자에게 편견을 측정하는 '암묵적 연관테스트'를 실시했습니다.

 물론, 결과는 이미지 검색 쪽의 편견이 훨씬 높은 것으로 나타났습니다. 즉 우리도 무의식중에 같은 영향을 맏을 수 있다는 것을 시사합니다.

 특히 이제는 AI로 인해 그 영향이 확대될 수 있다는 지적입니다. 이제 AI는 검색과 추천 알고리즘으로 우리의 콘텐츠 선택에 막대한 영향을 미치고 있기 때문입니다.

 또 인터넷에는 AI가 생성한 이미지가 점점 늘어나고 있습니다. 알려진 대로 AI는 기존 이미지를 보고 학습했기 때문에, 기존의 편견적인 요소를 그대로 반영합니다. 이런 이미지가 늘어날수록, 편향의 악순환은 더욱 심화됩니다. 그럴수록 우리가 어떤 영향을 받을지는 분명해집니다.

 이런 문제 때문에 AI 기업들은 이미 홍역을 치른 바 있습니다. 대표적인 것이 올해 초 '제미나이'의 인종 편향적인 이미지 출력 문제로 서비스를 접었던 구글입니다.

 구글은 이런 점을 바로 잡겠다고 과도한 설정을 적용, 2차 대전 독일군 이미지에 흑인이나 아시아 여성을 포함되는 실수를 야기했습니다.

 이처럼 편향을 없애는 문제는 그리 간단하지 않습니다. 전문가들도 뚜렷한 해결책을 제시하지 못하는 것이 사실입니다. 고작 기술 없이 생활하는 방법을 추천하는 정도입니다.

 그러나 가장 중요한 것은 이런 사실을 인식하고 있다는 자체일 수 있다는 지적입니다. 우리는 시각적 소비에 대해 별로 신경 쓰지 않았으며, 우리에게 제공된 이미지가 얼마나 의도적으로 제작됐는지를 간과하기 쉽다는 것입니다.

 또 이런 현상이 인류 역사상에서도 매우 드물었다는 것을 의식하지도 못한다고 합니다. 인류 진화 역사의 대부분 동안 지금처럼 많은 이미지를 소화하게 된 것은 처음이라는 말입니다.

 과거에는 인공 이미지, 즉 예술 작품을 보는 것은 한정된 계층의 몫이었습니다. 그러나 미디어의 발달로 이미지 접촉이 늘어난 것은 물론 현재는 사상 가장 이미지 접촉이 흔해지는 시점에 도달했습니다. 

 즉, 인터넷은 콘텐츠의 유통 비용을 0으로 줄였고, AI는 콘텐츠의 제작 비용을 0으로 줄였습니다. 이제는 누구나 이미지를 만들고 보여줄 수 있게 된 단계가 찾아온 것입니다.

 뜬금없는 이미지 타령처럼 들리지만, 분명히 지금은 이제까지는 경험하지 못했던 현상이 일어나는 것이 확실합니다. BBC의 글은 최소한 이를 인지라도 하고 있자는 의도입니다.

■ SK "국내 'H100' 2000장에 불과...인프라 구축에 집중할 것"

 유영상 SKT CEO가 AI 서밋에서 국내 보유 H100 GPU가 2000여장에 불과하다고 지적했습니다. xAI가 최근 구축한 데이터센터 한곳의 H100이 10만장이라는 점을 감안하면 충격적인 수치입니다. SK가 인프라를 강조하는 것이 이해됩니다.

■ 알트먼, 실수로 차기 모델 'o2' 힌트 공개..."벤치마크서 역대급 성능 보여"

 샘 알트먼 오픈AI CEO가 X에서 o2라는 모델이 역대급 벤치마크 성능을 보였다고 밝혔다가, 실수라며 이를 삭제했습니다. 하지만 오픈AI의 차기 모델이 무엇인지 충분한 힌트가 됐습니다. 오픈AI의 추론 성능이 한단계 더 획기적으로 발전한 것으로 보입니다.

■ xAI, 엔비디아와도 투자 협상...오픈AI 금지 요청 또 무시당해

 xAI 투자 협상에 엔비디아도 참여한 것으로 알려졌습니다. 오픈AI가 투자 금지를 요청했음에도 불구, UAE의 UGX와 함께 xAI 투자를 검토했다는 것입니다. 하긴 엔비디아라면 오픈AI를 무시해도 지장이 없을 듯합니다.

 

---

추가 조사할 내용 및 요약

 

1. 검색 추천 알고리즘

링크 : https://blog.naver.com/flitto_inc/223498715876?trackingCode=rss

나보다 나를 더 잘 아는 SNS?! AI 추천 알고리즘 시스템 예시 모음.zip

 

링크 : https://calmmimiforest.tistory.com/100

[추천시스템] 추천시스템 A to Z : 추천 알고리즘의 종류

 

링크 : https://www.etoday.co.kr/news/view/2387337

SKT, 세계적 권위 정보 검색 학회서 개인화 추천 AI 기술로 '우수 논문상'

 

 SK텔레콤은 지난달 미국 워싱턴DC에서 열린 정보 검색 분야 세계적 권위 학회 SIGIR 2024에서 자체 개발 추천 모델 알고리즘 연구로 우수 논문상을 받았다고 5일 밝혔다.

 이번에 수상한 논문은 SKT의 '원 모델(One Model) 버전 2.0'에 관한 연구다. 다양한 서비스 도메인의 데이터가 서로 시너지를 내 추천 예측 성능을 높이는 알고리즘을 제안했다.

 이 논문은 해당 알고리즘의 참신성, 상용 배포 실증성, 방대한 실험을 통한 결과의 신뢰성 등에서 높은 평가를 받았다. 접수 논문 중 상위 0.6%의 논문에만 수여되는 우수 논문상으로 선정됐다.

 자체 개발 추천 모델인 원 모델은 작년에 버전 1.0을 개발하여 상용 배포했다. 해당 모델의 알고리즘 관련 연구는 정보 검색 분야 최우수 학회 중 하나인 CIKM 2023에 채택된 바 있다. 이번 원 모델 버전 2.0은 버전 1.0 대비 추천 성능을 향상함과 동시에 학습 효율성을 높였다.

 SKT는 개인의 다양한 종류 행동 로그를 시간 순서에 따라 통합하거나 정제할 뿐만 아니라 '원 모델 알고리즘'으로 고객의 다음 행동을 예측해 고객의 개인화 추천을 수행하고 있다.

 이는 다중 도메인 순차적 추천이다. One Model은 실제로 10개 이상의 서로 다른 데이터 도메인을 동시에 학습해 SKT 내 다양한 채널에서의 추천을 하나의 모델로 통합 제공하고 있다. 이 모델을 실제로 적용한 결과 고객 반응률이 기존 추천 방식 대비 최대 3배 이상 증가했다.

 특히 여러 서비스 도메인의 데이터를 효과적으로 활용하기 위해 단일 도메인 학습 모델(Pacer)과 다중 도메인 학습 모델(Runner)을 한 아키텍처로 구성해 상호 보완하는 학습 방식을 고안했다.

 현재 해당 모델은 SKT의 인공지능(AI) 개인비서 서비스인 에이닷의 추천 시스템과 T멤버십, 요금제 추천에 적용되고 있다. 연내에는 구독 상품인 T우주와 AI 큐레이션 커머스 T딜 등 다양한 상품 추천에도 확대 적용될 예정이다.

 정도희 AI 서비스사업부 AI 데이터 담당은 “작년에 이어 올해 역시 세계적인 권위의 학회에서 우수 논문상을 받으며 SK텔레콤의 AI 역량을 다시 한번 입증했다”며 “앞으로 고도화된 개인화 기술을 자사 서비스 곳곳에 적용해 고객 만족도를 더 높이고, 글로벌 AI 컴퍼니로의 진화를 가속할 것”이라고 말했다.

---

마무리

 여기까지 오늘의 기사 스크랩이었습니다. 오늘은 인공지능으로 인해 이미지가 주는 영향이 더욱 커지고 있으며, 이에 따른 성별, 인종별 편향이 중요한 문제로 떠오른다는 기사를 접했습니다. 이를 통해서 우리가 의식하지 못하는 가운데 이미지에 많은 영향을 받고 있으며, 검색 및 추천 알고리즘으로 콘텐츠 등의 기술로 이는 더욱 높아질 것으로 예상됩니다. 이는 대표적으로 올해 초 '제미나이'의 인종 편향적인 이미지 출력 문제로 서비스를 접었던 구글을 통해 나타낼 수도 있습니다. 따라서 AI로 인한 누구나 이미지를 만들 수 있는 세상이 찾아오면서 이제는 경험하지 못했던 현상이 일어나는 것이 확실하고 이를 최소한 인지하자는 내용의 기사였습니다.