딥페이크 기술은 사실적인 얼굴 이미지 및 비디오 합성을 목표로 하며, 엔터테인먼트, 영화 제작, 디지털 휴먼 모델링 등 광범위한 응용 잠재력을 지닌다. 최근 확산 모델의 등장으로 생성 품질이 크게 향상되며 연구의 새로운 물결을 일으켰다. 그러나 딥페이크의 오용 가능성(프라이버시 침해, 피싱 공격 등)에 대응하기 위해 탐지 기술 또한 지속적으로 발전하고 있다.
본 연구는 딥페이크 생성 및 탐지 분야의 최신 발전을 종합적으로 검토한다. 먼저, 태스크 정의를 통일하고, 데이터셋 및 평가 지표를 포괄적으로 소개하며, 기반 기술을 요약한다. 이어서 얼굴 스와핑, 얼굴 재연, 대화하는 얼굴 생성, 얼굴 속성 편집 등 네 가지 대표적인 딥페이크 연구 분야와 위조 탐지 기술의 발전을 심층적으로 분석한다.
또한, 널리 사용되는 데이터셋에 대해 대표적인 방법론들을 벤치마킹하여 가장 영향력 있는 연구들의 최신 평가를 제공한다. 이를 통해 빠르게 진화하는 이 분야의 현재 기술 수준을 명확히 제시한다.
마지막으로, 딥페이크 기술의 주요 과제를 논의하고 향후 연구 방향을 제시한다. 본 조사는 컴퓨터 과학 분야의 STEM 학생 및 연구자들이 딥페이크 기술의 핵심을 신속하게 파악하고 관련 연구에 기여할 수 있도록 돕는다.
인공지능 생성 콘텐츠(AIGC)는 모델 알고리즘 발전, 대규모 기반 모델 성장, 고품질 데이터셋 접근성 향상에 힘입어 빠르게 발전했습니다. 하지만 AIGC는 지식 업데이트, 롱테일 데이터 처리, 데이터 유출 완화, 높은 훈련 및 추론 비용 관리 등 여러 난관에 직면해 있습니다.
이러한 문제 해결을 위해 최근 검색 증강 생성(RAG) 패러다임이 부상했습니다. RAG는 정보 검색 과정을 도입하여 관련성 높은 객체를 데이터 저장소에서 검색함으로써 생성 정확도와 견고성을 향상시킵니다. 본 서베이 논문은 AIGC 시나리오에 RAG 기술을 통합하려는 기존 연구들을 종합적으로 검토합니다.
저희는 먼저 검색기가 생성기를 증강하는 방식에 따라 RAG의 기반을 분류하고, 다양한 검색기와 생성기를 위한 증강 방법론의 근본적인 추상화를 도출합니다. 이 통합된 관점은 모든 RAG 시나리오를 포괄하며, 미래 발전에 기여할 핵심 기술들을 조명합니다. 또한 RAG 시스템의 효과적인 엔지니어링 및 구현을 돕는 추가적인 개선 방법들을 요약합니다.
나아가, 다양한 모달리티와 태스크에 걸친 RAG의 실제 적용 사례들을 조사하여 연구자와 실무자에게 유용한 참고 자료를 제공합니다. 마지막으로 RAG 벤치마크를 소개하고, 현재 RAG 시스템의 한계를 논의하며, 미래 연구를 위한 잠재적 방향을 제시합니다.
클라우드 인프라가 전 세계 디지털 운영의 핵심으로 자리 잡았지만, 복잡성 증가에 비해 신뢰성 엔지니어링은 뒤처져 있습니다. 관측 및 경고 시스템은 발전했으나, 장애 대응은 여전히 사람의 전문성에 크게 의존하여 탐지부터 자동 복구까지 상당한 격차가 발생하고, 이는 막대한 다운타임 비용과 운영 피로도로 이어집니다.
본 논문은 생성형 AI를 활용한 폐쇄 루프형 복구 프레임워크를 제안합니다. 이 프레임워크는 LLM 기반 진단, 정책 기반 실행, 안전성 검증 메커니즘을 통합하며, 지속적인 학습 피드백 주기를 통해 장애 해결의 진단, 실행, 검증을 안전 장치와 감사 기능을 갖춰 수행합니다.
다중 클라우드 구현의 모범 사례를 바탕으로 단계별 구현 접근 방식을 제시하고, 자율형 복구를 위한 거버넌스 고려 사항을 논의합니다. 이 프레임워크는 장애 해결 속도를 크게 향상하고 수동 에스컬레이션을 줄여, 자율형 장애 복구가 AI 기반 신뢰성 엔지니어링의 다음 진화를 위한 초석임을 입증합니다.
시스템이 인간의 인지 한계를 넘어 확장됨에 따라, 이러한 자율적 접근 방식은 단순한 이점을 넘어 끊임없이 증가하는 디지털 환경의 복잡성 속에서 운영 탄력성을 확보하는 데 매우 중요합니다.
최근 딥러닝 기반 생성 모델, 특히 GAN, VAE, 확산 모델(DM)은 이미지 및 비디오 합성 등 다양한 분야에서 고품질 콘텐츠 생성에 핵심적인 역할을 하고 있습니다. 이러한 모델의 급속한 발전과 연구량 증가, 응용 분야 확장, 그리고 미해결 기술 과제로 인해 최신 동향을 파악하기가 점점 어려워지고 있습니다. 본 조사는 이러한 필요성을 해결하고자 합니다.
이 연구는 GAN, VAE, DM의 발전 과정을 이해하기 위한 포괄적인 분류 체계를 제시합니다. 다양한 변형 모델과 결합 접근 방식을 포함하여, 생성 결과물의 품질, 다양성, 제어 가능성을 향상시킨 주요 혁신 기술들을 조명하며 생성형 AI의 확장된 잠재력을 반영합니다.
기술적 진보 요약과 더불어, 오용 위험 및 합성 미디어의 광범위한 사회적 영향을 포함한 윤리적 문제들을 검토합니다. 또한, 지속적인 도전 과제를 제시하고 미래 연구 방향을 제안하여 빠르게 진화하는 이 분야의 연구자들에게 구조적이고 미래 지향적인 관점을 제공합니다.
생성형 AI(GAI)가 디자인 분야에 통합되면서, 전통적인 디자인 관행에 의미 있게 접목하여 협업적 디자인 프로세스를 발전시키는 방안에 대한 연구가 활발합니다. 본 연구는 인간-AI 협업 디자인 프로세스(HAI-CDP) 모델을 제안하고, 비교 실험 설계를 통해 디자이너의 창의성에 미치는 영향을 평가했습니다.
연구 결과, HAI-CDP가 전통적인 디자인 프로세스보다 창의적 성과를 크게 향상시키는 것으로 나타났습니다. 특히 초보 디자이너에게는 아이디어 생성 촉진에, 숙련된 디자이너에게는 창의적 결과물의 품질과 정교함을 높이는 데 주로 기여했습니다.
이러한 발견은 HAI-CDP가 창의적 참여의 진입 장벽을 낮추는 동시에, 디자인 경험이 창의적 결과물을 형성하는 중요한 요소임을 재확인시켜 줍니다. 본 연구는 인간-AI 협업이 디자인 분야에서 창의성을 증진시키는 효과적인 방법론임을 제시하며, 향후 디자인 교육 및 실무에 대한 시사점을 제공합니다.
최근 등장한 에이전트 AI 시스템은 자율성, 적응성, 목표 지향적 추론에 중점을 두어 기존 AI, 생성형 AI, 자율 시스템을 넘어서는 중요한 접근 방식입니다. 본 연구는 에이전트 AI 시스템의 정의, 프레임워크, 아키텍처를 통합적으로 검토하고, 생성형 AI, 자율 컴퓨팅, 다중 에이전트 시스템과 같은 관련 분야와 비교하여 명확한 이해를 제공합니다.
이를 위해 현재 LLM 기반 및 비LLM 기반 에이전트 시스템에 대한 143개의 주요 연구를 분석하여 계획, 기억, 성찰, 목표 추구 지원 방식을 살펴보았습니다. 또한, 에이전트 AI가 적용되는 작업 도메인을 기반으로 아키텍처 모델, 입출력 메커니즘 및 응용 분야를 분류하고, 실제 사례 연구를 강조하는 표 형식 요약을 통해 이를 뒷받침했습니다.
평가 지표는 시스템 성능과 신뢰성을 확인하기 위한 정성적 및 정량적 측정으로 분류되었으며, 에이전트 AI 시스템의 가용 테스트 방법도 함께 제시되었습니다. 본 연구는 기술적, 아키텍처적, 조정, 윤리 및 보안 문제를 포괄하는 에이전트 AI의 주요 도전과 한계점도 조명합니다.
이 연구는 에이전트 AI의 개념적 기반, 가용 도구, 아키텍처 및 평가 지표를 체계적으로 정리하여 에이전트 AI를 이해하고 발전시키기 위한 구조화된 토대를 마련했습니다. 이러한 결과는 연구자와 개발자가 다양한 도메인에서 책임감 있는 배포를 지원하는 더 나은, 명확하고 적응성 있는 시스템을 구축하는 데 기여할 것입니다.
생성형 AI 시대의 정보 융합은 AI 에이전트와 에이전틱 AI를 명확히 구분해야 할 필요가 있습니다. 본 연구는 이 두 개념의 설계 철학과 역량 차이를 규명하기 위해 구조화된 개념 분류 체계, 응용 분야 매핑, 그리고 기회와 도전 과제 분석을 제시합니다. 특히, AI 에이전트는 LLM과 LIM을 기반으로 특정 작업을 자동화하는 모듈형 시스템으로 정의하며, 생성형 AI를 그 기반으로 봅니다.
연구는 검색 전략과 기본 정의를 시작으로, AI 에이전트가 도구 통합, 프롬프트 엔지니어링, 추론 강화를 통해 발전함을 설명합니다. 반면, 에이전틱 AI 시스템은 다중 에이전트 협업, 동적 작업 분해, 영구 메모리, 조정된 자율성을 특징으로 하는 패러다임 전환을 나타냅니다. 아키텍처 진화, 운영 메커니즘, 상호작용 방식, 자율성 수준에 대한 연대기적 평가를 통해 두 패러다임을 비교 분석합니다.
AI 에이전트가 고객 지원, 스케줄링, 데이터 요약 등에서 활용되는 반면, 에이전틱 AI는 연구 자동화, 로봇 조정, 의료 의사결정 지원 등에서 배포됩니다. 각 패러다임의 고유한 도전 과제(환각 현상, 취약성, 비예측적 행동, 조정 실패)를 탐구하고, ReAct 루프, 검색 증강 생성(RAG), 자동화 조정 계층, 인과 모델링과 같은 맞춤형 해결책을 제안합니다.
본 연구는 견고하고 확장 가능하며 설명 가능한 AI 기반 시스템 개발을 위한 로드맵을 제공하여, 컴퓨터 과학 분야의 STEM 학생 및 연구자들이 핵심 개념을 명확히 이해하고 실제 응용에 적용할 수 있도록 돕는 것을 목표로 합니다.
생성형 AI는 과학 이미징 분야에 새로운 가능성을 제시하며 다양하고 복잡한 이미지 데이터를 합성하는 강력한 도구로 부상했습니다. 본 연구는 과학 이미지 합성을 목적으로 Variational Autoencoder (VAE), Generative Adversarial Network (GAN), Diffusion Model 등 주요 생성 모델 아키텍처를 포괄적으로 비교 분석합니다.
각 모델의 기본 원리, 최신 아키텍처 발전, 실제 적용 시 장단점을 검토했습니다. 암석 및 복합 섬유의 microCT 스캔, 식물 뿌리 고해상도 이미지 등 도메인별 데이터셋을 활용하여 SSIM, LPIPS, FID, CLIPScore와 같은 정량적 지표와 전문가 주도 정성적 평가를 통합적으로 수행했습니다.
연구 결과, GAN, 특히 StyleGAN은 높은 지각 품질과 구조적 일관성을 지닌 이미지를 생성하는 것으로 나타났습니다. DALL-E 2와 같은 확산 기반 모델은 사실성과 의미론적 정렬에서 우수했지만, 시각적 충실도와 과학적 정확성 간의 균형을 맞추는 데 어려움을 보였습니다. 특히, 표준 정량적 지표가 과학적 관련성을 포착하는 데 한계가 있음을 발견했으며, 이는 도메인 전문가 검증의 필요성을 강조합니다.
본 연구는 모델 해석 가능성, 계산 비용, 검증 프로토콜과 같은 주요 과제를 논의하고, 생성형 AI가 과학 연구에서 데이터 증강, 시뮬레이션, 가설 생성에 혁신을 가져올 수 있는 미래 방향을 제시합니다.
지식 작업 흐름에서 생성 인공지능(GenAI)의 확산은 비판적 사고 능력과 실제 적용에 미치는 영향에 대한 의문을 제기합니다. 본 연구는 319명의 지식 근로자를 대상으로 GenAI 사용 시 비판적 사고가 언제, 어떻게 발현되는지, 그리고 GenAI가 비판적 사고 노력에 언제, 왜 영향을 미치는지 조사했습니다.
참여자들은 업무 과제에서 GenAI를 사용한 936가지 직접적인 사례를 공유했습니다. 정량적 분석에서는 과제 및 사용자별 요인을 모두 고려했을 때, 사용자의 과제별 자신감과 GenAI에 대한 신뢰도가 비판적 사고 발현 여부 및 관련 노력에 영향을 미치는 예측 변수임을 확인했습니다.
구체적으로, GenAI에 대한 신뢰도가 높을수록 비판적 사고는 감소하는 경향을 보였고, 반대로 자기 자신에 대한 신뢰도가 높을수록 비판적 사고는 증가했습니다. 정성적 분석 결과, GenAI는 비판적 사고의 본질을 정보 검증, 응답 통합, 그리고 과제 관리의 방향으로 변화시키는 것으로 나타났습니다.
이러한 통찰은 지식 작업을 위한 GenAI 도구 개발에 있어 새로운 설계 과제와 기회를 제시합니다.
생성형 인공지능(AI)의 급격한 발전은 텍스트, 오디오, 이미지, 비디오 등 다양한 형태의 콘텐츠가 인간이 생성한 콘텐츠를 모방하는 능력을 지속적으로 향상시키고 있습니다. 특히 음성 분야에서 AI 기술은 실제 사람의 목소리와 구별하기 어려울 정도로 정교해지고 있으며, 이는 사회적, 윤리적 문제를 야기할 수 있습니다.
본 연구는 일련의 지각 연구를 통해 AI 생성 음성의 사실성, 특히 신원 일치 및 자연스러움 측면을 평가했습니다. 참가자들에게 실제 음성과 AI 생성 음성을 들려주고, 두 음성의 동일성 여부와 AI 생성 여부를 판단하도록 요청했습니다.
연구 결과, 인간 참가자들은 AI 생성 음성을 일관되게 식별하지 못하는 것으로 나타났습니다. 참가자들은 AI 생성 음성의 신원을 실제 음성의 신원과 동일하다고 약 50%의 시간 동안 인식했으며, 음성이 AI에 의해 생성되었다는 것을 올바르게 식별한 경우는 약 50%에 불과했습니다.
이러한 결과는 현재 AI 음성 복제 기술이 인간의 탐지 능력을 뛰어넘는 수준에 도달했음을 시사합니다. 이는 딥페이크, 사기 등 AI 음성 오용으로 인한 잠재적 위협에 대한 경각심을 높이고, AI 음성 탐지 기술 개발 및 관련 정책 마련의 필요성을 강조합니다.
딥러닝 기술의 급속한 발전과 함께 확산 모델은 이미지, 오디오, 비디오 합성, 분자 설계, 텍스트 생성 등 다양한 분야에서 유망한 생성 모델로 부상했습니다. 독특한 생성 메커니즘과 뛰어난 품질 덕분에 여러 분야에서 가치 있는 도구로 활용되고 있습니다.
그러나 이미지 생성 분야에서 확산 모델의 광범위한 배포는 데이터 프라이버시, 보안, 예술 윤리와 같은 사회적 문제들을 야기하고 있습니다. 기존 연구들은 최신 확산 모델 기반 이미지 합성 기술과 잠재적 사회적 함의를 충분히 다루지 못하는 한계가 있습니다.
본 논문은 확산 모델의 배경 원리 및 이론적 토대를 체계적으로 조사합니다. 또한 스타일 변환, 이미지 완성, 편집, 초해상도 등 다양한 이미지 생성 하위 분야에서 확산 모델의 최신 응용 사례를 상세히 분석합니다.
나아가 데이터 유출 가능성 및 보호 조치, 모델 악용 위험 및 방어 전략, 생성 이미지의 진위 및 독창성 문제 등 확산 모델 사용으로 인해 발생할 수 있는 사회적 영향에 대해 포괄적으로 고찰합니다.
