생성형 AI

생성형 AI는 사용자가 다양한 입력을 기반으로 새로운 콘텐츠를 신속히 생성할 수 있게 해줍니다. 이러한 모델의 입력과 출력에는 텍스트, 이미지, 사운드, 애니메이션, 3D 모델, 기타 여러 유형의 데이터가 포함될 수 있습니다.

생성형 AI 모델은 신경망을 사용하여 기존 데이터 내의 패턴과 구조를 식별하고 이를 토대로 독창적인 새 콘텐츠를 생성합니다.

생성형 AI 모델의 획기적인 기술 중 하나는 모델 훈련에 비지도 및 준지도 학습을 포함하여 여러 학습 방법을 활용할 수 있다는 점입니다. 이 덕분에 조직은 레이블이 지정되지 않은 대량의 데이터를 더욱 쉽고 빠르게 활용하여 파운데이션 모델을 만들 수 있게 되었습니다. 이름에서 알 수 있듯이, 파운데이션 모델은 여러 가지 작업 수행이 가능한 AI 시스템을 구축할 때 기반으로 사용할 수 있습니다. 

파운데이션 모델의 예로는 GPT-3, Stable Diffusion 등이 있는데, 이들 모델은 사용자가 언어의 힘을 활용할 수 있게 해줍니다. 예를 들어, GPT-3를 기반으로 하는 ChatGPT와 같은 인기 애플리케이션은 사용자로부터 간단한 텍스트 요청을 받아 이를 기반으로 에세이를 작성합니다. Stable Diffusion은 사용자가 텍스트를 입력하면 사실적인 이미지를 생성합니다.

생성형 AI 모델이 성공적이기 위해서는 다음의 세 가지 핵심 요건을 충족해야 합니다. 

1. 품질: 특히 사용자와 직접 상호 작용하는 애플리케이션의 경우 고품질의 생성 출력을 제공하는 것이 핵심입니다. 예를 들어, 음성 생성에서 음성 품질이 나쁘면 알아듣기가 힘듭니다. 마찬가지로, 이미지 생성에서는 요구한 출력이 시각적으로 일반 이미지와 분간할 수 없는 수준이어야 합니다.
2. 다양성: 좋은 생성 모델은 생성 품질을 저하시키지 않으면서 데이터 분포에서 소수 클래스도 포착합니다. 이는 학습된 모델에서 원치 않는 편향을 줄이는 데 도움이 됩니다.
3. 속도: 많은 대화형 애플리케이션은 실시간 이미지 편집과 같은 빠른 생성 속도를 갖추어야 콘텐츠 제작 워크플로에 사용될 수 있습니다.

생성 모델에는 여러 유형이 있으며, 각각의 긍정적인 속성을 결합하면 훨씬 더 강력한 모델을 생성할 수 있습니다.

몇 가지 유형을 살펴보면 아래와 같습니다.

확산 모델: 노이즈 제거 확산 확률 모델(DDPM)이라고도 하는 확산 모델은 학습 과정 동안 2단계 프로세스를 통해 잠재 공간의 벡터를 알아내는 생성 모델입니다. 이 두 단계는 순방향 확산과 역방향 확산입니다. 순방향 확산 프로세스는 훈련 데이터에 천천히 무작위 노이즈를 추가하고, 역방향 확산 프로세스는 이 노이즈를 제거하여 데이터 샘플을 재구성합니다. 완전한 무작위 노이즈부터 시작하여 역으로 노이즈 제거 프로세스를 실행하면 새로운 데이터를 생성할 수 있습니다.

확산 모델은 변분 오토인코더(VAE) 모델보다 훈련에 더 긴 시간이 소요될 수 있지만, 이 2단계 프로세스 덕분에 무한대는 아니더라도 수백 개의 층을 훈련시킬 수 있습니다. 즉, 확산 모델은 생성형 AI 모델을 구축할 때 일반적으로 가장 높은 품질의 출력을 제공합니다.

또한 확산 모델은 규모가 크고, 고품질의 출력을 제공하며, 유연하고, 일반적인 활용 사례에 가장 적합한 것으로 간주되기 때문에 파운데이션 모델로 분류되기도 합니다. 그러나 역방향 샘플링 프로세스로 인해 파운데이션 모델을 실행하는 데는 시간이 오래 걸립니다.

확산 모델의 수학적 원리에 대한 자세한 내용은 이 블로그 게시글을 참조하세요.

• VAE(Variational Autoencoder)): VAE는 보통 인코더와 디코더라 불리는 두 개의 뉴럴 네트워크로 구성되어 있습니다.
  입력을 받으면 인코더는 이를 더 작고 조밀한 데이터 표현으로 변환합니다. 이 압축된 표현에는 디코더가 원래의 입력 데이터를 재구성하는 데 필요한 정보가 들어 있으며 관련 없는 모든 정보는 폐기됩니다. 인코더와 디코더는 함께 협력하여 효율적이고 간단한 잠재 데이터 표현을 학습합니다. 이 덕분에 사용자는 새로운 잠재 표현을 쉽게 샘플링할 수 있습니다. 이러한 표현은 디코더를 통해 매핑되어 새로운 데이터를 생성하는 데 사용될 수 있습니다.
  VAE는 이미지와 같은 출력을 더 빨리 생성할 수 있지만, VAE가 생성한 이미지는 확산 모델의 것만큼 상세하지는 않습니다.
• 생성적 적대 신경망(GAN): 2014년에 개발된 GAN은 최근 들어 확산 모델이 큰 성공을 거두기 전까지 이 세 가지 중 가장 일반적인 방법으로 간주되었습니다. GAN은 두 개의 신경망을 서로 겨루게 하는데, 하나는 새로운 예제를 생성하는 생성망이고 다른 하나는 판별망으로, 이 생성된 콘텐츠가 진짜(도메인에서 온 데이터)인지 가짜(생성된 데이터)인지 분별하는 방법을 학습합니다.

이 두 개의 모델은 함께 훈련을 거치며 더 똑똑해집니다. 생성망은 더 나은 콘텐츠를 생성하고 판별망은 생성된 콘텐츠를 더 잘 판별하게 됩니다. 이 절차는 생성된 콘텐츠와 기존 콘텐츠 간의 구분이 힘들어질 때까지 반복되며, 매 반복 후 두 신경망은 지속적으로 향상됩니다.

GAN은 고품질 샘플을 제공하고 출력을 빠르게 생성하지만, 샘플의 다양성이 약하기 때문에 도메인 특화 데이터 생성에 더 적합합니다.

생성 모델을 개발하는 데 중요한 또 다른 요소는 기저 아키텍처입니다. 가장 많이 사용되는 것 중의 하나는 트랜스포머 네트워크입니다. 생성형 AI의 맥락에서 트랜스포머 네트워크의 작동 방식을 이해하는 것이 중요합니다.

트랜스포머 네트워크: 순환 신경망과 비슷한 트랜스포머는 순차 입력 데이터를 비순차적으로 처리하도록 설계되었습니다.

트랜스포머가 텍스트 기반의 생성형 AI 애플리케이션에 특히 적합한 이유는 셀프 어텐션과 위치 인코딩이라는 두 가지 메커니즘 때문입니다. 이 두 가지 기술 모두 시간을 표현하는 데 도움이 됩니다. 장거리에 걸쳐 단어들이 서로 관계를 맺고 있는 방식에 주목하는 알고리즘을 구현하는 데 사용될 수도 있습니다.

셀프 어텐션 레이어는 입력의 각 부분에 가중치를 할당합니다. 이 가중치는 나머지 부분에 맥락을 제공하는 측면에서 해당 입력이 갖는 중요성을 나타냅니다. 위치 인코딩은 입력 단어가 나타나는 순서를 표현한 것입니다.

트랜스포머는 레이어라고도 하는 여러 개의 트랜스포머 블록으로 구성되어 있습니다. 예를 들어, 트랜스포머에는 토큰화된 데이터 스트림을 판독하고 예측하기 위해 함께 작동하는 셀프 어텐션 레이어, 피드포워드 레이어, 정규화 레이어가 있을 수 있습니다. 토큰화된 데이터 스트림에는 텍스트는 물론 단백질 염기 서열과 심지어 이미지 조각도 포함될 수 있습니다.

생성형 AI는 창작자, 엔지니어, 연구자, 과학자들의 워크플로우를 간소화할 수 있는 강력한 도구입니다. 모든 산업과 개인이 생성형 AI를 활용할 수 있습니다.

생성형 AI 모델은 텍스트, 이미지, 오디오, 동영상, 코드 등의 입력을 받고 이러한 모든 양식으로 새로운 콘텐츠를 생성할 수 있습니다. 예를 들어, 텍스트 입력을 이미지로 변환하거나, 이미지를 노래로 바꾸거나, 동영상을 텍스트로 바꿀 수 있습니다.

• 언어: 텍스트는 많은 생성형 AI 모델의 근간이며, 가장 발전한 영역으로 간주됩니다. 가장 많이 사용되는 언어 기반 생성 모델 중 하나는 거대 언어 모델(LLM)입니다. 거대 언어 모델은 광범위한 작업에 활용되고 있습니다. 여기에는 에세이 작성, 코드 개발, 번역은 물론이고 유전자 염기 서열을 이해하는 작업도 포함됩니다.
• 오디오: 음악, 오디오 및 음성 또한 생성형 AI 내에서 부상 중인 분야입니다. 예로는 텍스트 입력으로 노래와 오디오 클립을 생성할 수 있는 모델, 동영상 내 개체를 인식하고 다양한 동영상 장면에 맞는 소리를 생성할 수 있는 모델, 맞춤형 음악을 만들 수 있는 모델 등이 있습니다.
• 비주얼: 이미지는 생성형 AI가 가장 활발히 적용되고 있는 분야 중 하나입니다. 여기에는 3D 이미지, 아바타, 동영상, 그래프 및 기타 일러스트의 생성이 포함됩니다. 생성된 비주얼을 편집하고 수정할 수 있는 기술뿐만 아니라 여러 예술적 스타일의 이미지를 생성할 수 있는 유연성을 제공합니다. 생성형 AI 모델은 신약 발견에 도움이 되는 새로운 화합물과 분자를 보여주는 그래프를 생성하고, 가상 현실이나 증강 현실을 위한 사실적인 이미지를 생성하고, 비디오 게임을 위한 3D 모델을 생성하고, 로고를 디자인하고, 기존 이미지를 향상하거나 편집할 수 있습니다.
• 합성 데이터: 데이터가 존재하지 않거나 제한적이거나 코너 케이스를 높은 정확도로 해결할 수 없는 경우, 합성 데이터가 AI 모델을 훈련하는 데 매우 유용할 수 있습니다. 아마도 생성 모델을 통한 합성 데이터의 개발은 많은 기업이 당면한 데이터 문제를 극복하는 데 가장 효과적인 솔루션 중 하나일 것입니다. 이 방법은 모든 모달리티와 사용 사례를 망라하며 레이블 효율적 학습이라는 프로세스를 통해 수행될 수 있습니다. 생성형 AI 모델은 증강 훈련 데이터를 자동으로 추가 생성하거나, 레이블이 지정된 데이터를 덜 사용하고도 AI 모델 훈련이 용이하도록 데이터의 내재적 표현을 학습하여 레이블링 비용을 절감할 수 있습니다.

생성 모델의 영향력은 광범위하며 응용 사례는 계속 증가하고 있습니다. 아래에는 교통, 자연과학, 엔터테인먼트 등의 분야가 발전하고 변화하는 데 생성형 AI가 어떻게 도움이 되고 있는지를 보여주는 몇 가지 예가 나와 있습니다.

• 자동차 산업에서 생성형 AI는 시뮬레이션과 자동차 개발을 위한 3D 세계 및 모델을 생성하는 데 도움이 될 것으로 예상됩니다. 합성 데이터는 자율주행 자동차 훈련에도 사용되고 있습니다. 실제와 같은 3D 세계에서 자율주행 자차의 기능을 로드 테스트하면 위험과 간접비를 줄이면서 안전성, 효율성 및 유연성을 향상할 수 있습니다.
• 생성형 AI는 자연과학 분야에 엄청난 이점을 제공할 수 있습니다. 의료 산업에서 생성 모델은 신약 발견에 도움이 될 새로운 단백질 염기 서열을 개발하여 의료 연구를 지원할 수 있습니다. 또한, 의료 전문가는 진료 기록 작성, 의료 코딩, 의료 영상 촬영, 유전체 분석과 같은 작업의 자동화를 통해 혜택을 누릴 수 있습니다. 기상 분야에서는 지구의 시뮬레이션을 생성하여 정확한 날씨 예보를 제공하고 자연재해를 정확히 예측하는 데 생성 모델을 유용하게 활용할 수 있습니다. 이러한 응용 사례는 일반 대중에게 더욱 안전한 환경을 선사하고 과학자들에게 자연재해를 예측하여 더 잘 대비할 수 있는 역량을 제공할 수 있습니다.
• 비디오 게임부터 영화, 애니메이션, 월드 빌딩, 가상현실에 이르기까지 엔터테인먼트 산업의 모든 분야는 생성형 AI 모델을 활용하여 콘텐츠 생성 프로세스를 간소화할 수 있습니다. 창작자들은 창의력과 창작 작업을 보완하는 도구로 생성 모델을 사용하고 있습니다.

진화하고 있는 분야인 생성 모델은 여전히 초기 단계에 있으며 다음과 같은 영역에서 성장할 수 있다고 여겨집니다.

1. 컴퓨팅 인프라의 규모: 수십억 개에 달하는 매개변수를 가질 수 있는 생성형 AI 모델을 훈련하려면 빠르고 효율적인 데이터 파이프라인이 필요합니다. 생성 모델의 개발 및 유지에는 엄청난 자본 투자, 전문 기술 지식 그리고 대규모의 컴퓨팅 인프라가 필수적입니다. 예를 들어, 확산 모델은 훈련을 위해 수백만 개 또는 수십억 개의 이미지를 필요로 할 수 있습니다. 게다가 이런 거대한 데이터 세트를 훈련하기 위해서는 막대한 규모의 컴퓨팅 성능이 요구되기 때문에 AI 전문가들은 모델 훈련을 위해 수백 개의 GPU를 확보하고 활용할 수 있어야 합니다.
2. 샘플링 속도: 생성 모델의 규모로 인해 인스턴스 생성에 소요되는 시간에 지연 시간이 존재할 수 있습니다. 특히 챗봇, AI 음성 비서, 고객 서비스 애플리케이션과 같은 대화형 사용 사례에서는 대화가 즉시 정확하게 이루어져야 합니다. 고품질 샘플을 생성할 수 있는 능력으로 확산 모델이 점점 더 인기를 얻게 되면서 느린 샘플링 속도가 점점 더 문제로 부각되고 있습니다.
3. 고품질 데이터의 부족: 생성형 AI 모델은 다양한 사용 사례를 위한 합성 데이터를 생성하는 데 쓰일 때가 많습니다. 그러나 매일 전 세계에서 생성되는 방대한 양의 데이터를 모두 AI 모델 훈련에 사용할 수 있는 것은 아닙니다. 생성 모델이 작동하기 위해서는 편향되지 않은 고품질 데이터가 필요합니다. 또한 어떤 분야에는 모델을 훈련할 만큼 충분한 데이터가 없습니다. 예를 들어, 3D 에셋은 거의 존재하지 않으며 개발하는 데 비용이 많이 듭니다. 이러한 분야에서는 발전과 성숙을 위해 상당한 리소스가 필요할 것입니다.
4. 데이터 라이선스: 고품질 데이터의 부족 문제를 심화하는 것으로, 많은 조직은 생성 모델을 훈련하기 위해 기존 데이터 세트를 사용하거나 맞춤형 데이터 세트를 구축하는 데 필요한 상용 라이선스를 얻는 데 어려움을 겪고 있습니다. 이는 지식재산권 침해 문제를 방지하는 데 핵심이 되는 매우 중요한 프로세스입니다.

NVIDIA, Cohere, Microsoft 등의 많은 기업은 이러한 문제를 해결하는 데 도움이 되는 여러 서비스와 도구를 제공하여 생성형 AI 모델의 지속적인 성장과 개발을 지원한다는 목표를 추구하고 있습니다. 이러한 제품과 플랫폼은 대규모 생성형 AI 모델을 구축하고 실행하는 데 수반되는 복잡성을 제거합니다.

생성형 AI는 여러 가지 이유로 중요합니다. 생성형 AI의 주요 이점을 몇 가지 꼽자면 다음과 같습니다.

1. 생성형 AI 알고리즘은 사람이 만든 것과 구분할 수 없는 이미지, 동영상, 텍스트 등의 새롭고 독창적인 콘텐츠를 생성하는 데 사용될 수 있습니다. 엔터테인먼트, 광고, 창작 예술 등과 같은 분야에 유용할 수 있습니다.
2. 생성형 AI 알고리즘은 자연어 처리, 컴퓨터 비전과 같은 기존 AI 시스템의 효율성과 정확성을 개선하는 데 사용될 수 있습니다. 예를 들어, 다른 AI 알고리즘을 훈련하고 평가하는 데 사용할 수 있는 합성 데이터를 생성하기 위해 생성형 AI 알고리즘을 사용할 수 있습니다.
3. 생성형 AI 알고리즘은 복잡한 데이터를 새로운 방식으로 탐색하고 분석하는 데 사용될 수 있습니다. 이를 통해 기업과 연구자들은 원시 데이터만으로는 확실하지 않을 수 있는 숨겨진 패턴과 트렌드를 발견할 수 있습니다.
4. 생성형 AI 알고리즘은 다양한 작업과 프로세스를 자동화하고 가속화하여 기업과 조직이 시간과 리소스를 절약하는 데 도움을 줄 수 있습니다.

종합하면, 생성형 AI는 AI 연구개발의 중요 영역으로, 광범위한 산업 및 응용 사례에 막대한 영향을 미칠 잠재력을 지녔습니다.

참고: 생성 모델의 기능을 설명한 이 "생성형 AI의 이점은?" 섹션은 생성형 AI 모델 ChatGPT가 작성한 것입니다.