롤스로이스는 여러 AI 프로젝트에서 Databricks 데이터 인텔리전스 플랫폼의 변혁적인 힘을 경험했습니다. 그 중 하나는 롤스로이스와 Databricks 간의 협업으로, 조건부 생성적 적대 신경망(cGAN) 훈련 프로세스를 최적화하는 데 중점을 두고 있으며, Databricks Mosaic AI 도구를 사용함으로써 얻을 수 있는 다양한 이점을 보여줍니다.
이 공동 cGAN 훈련 최적화 프로젝트에서 팀은 수치, 텍스트 및 이미지 데이터를 사용하는 것을 고려했습니다. 주요 목표는 롤스로이스의 설계 공간 탐색 능력을 향상시키고, 매개변수 모델의 한계를 극복하는 것이었습니다. 이를 통해 전통적인 기하학적 모델링 및 시뮬레이션 과정을 거치지 않고도 지정된 설계 조건을 만족하는 혁신적인 설계 개념을 식별하고 평가할 수 있도록 기존 시뮬레이션 데이터를 재사용할 수 있게 되었습니다.
Databricks와 롤스로이스의 공동 팀은 모델 구성에 대한 모범 사례를 조사했으며, 차원 제한 등을 고려했습니다. 이 접근 방식에는 신경망이 특정 영역을 피하고 더 빠르게 솔루션을 찾을 수 있도록 실패한 솔루션에 대한 지식을 훈련 데이터 세트에 포함시키는 것이 포함되었습니다. 프로젝트의 또 다른 측면은 설계 과정에서 다목적 제약 조건을 처리하는 것이었습니다. 예를 들어, 모델의 무게를 줄이면서 효율성을 높이려는 요구 사항들이 서로 충돌할 수 있었습니다. 목표는 설계의 특정 측면에만 최적화된 것이 아닌 전반적으로 최적화된 솔루션을 도출하는 것이었습니다.
cGAN 프로젝트의 개념적 아키텍처는 다음과 같습니다.
cGAN 프로젝트의 개념적 아키텍처 설명:
- 데이터 모델링: 데이터 테이블은 특정 사용 사례에 최적화되도록 설정됩니다. 여기에는 ID 열 생성, 테이블 속성 설정 및 고유 튜플 관리가 포함됩니다.
- ML 모델 훈련: 개발된 ML 모델은 일반적인 시뮬레이션 연구의 3D 결과를 2D로 표현하여 훈련됩니다. 실패한 솔루션에 대한 지식을 포함시켜 신경망이 특정 영역을 피하고 더 빠르게 솔루션을 찾도록 돕습니다.
- 구현: 모델과 알고리즘을 개발 및 최적화한 후 제품 설계 프로세스에 구현합니다.
- 최적화: 현재 결과를 기반으로 매개변수 조정, 데이터 세트 정제 등을 통해 모델과 알고리즘을 지속적으로 최적화할 계획입니다.
- 모델 내보내기: 기존 데이터로 훈련된 모델은 표준 형식으로 내보낼 수 있으며, 이를 통해 제한적인 수출 통제 또는 IP 분류가 적용된 프로젝트 데이터로 전이 학습을 수행할 수 있는 안전한 환경으로 복사할 수 있습니다.
- 다음 단계: 앞으로 다목적 제약 조건을 처리하는 메커니즘을 포함할 계획입니다. 상충될 수 있는 여러 요구 사항을 처리해야 하며, 이러한 상충되는 목표를 균형 있게 조정하여 최적의 솔루션에 도달하기 위한 알고리즘이나 방법을 개발해야 합니다.
롤스로이스는 이 프로젝트에 데이터브릭스 데이터 인텔리전스 플랫폼과 데이터브릭스 모자이크 AI 도구를 활용함으로써 많은 이점을 얻을 수 있었습니다:
- 총 소유 비용(TCO): Databricks는 혁신을 가속화하면서 비용을 크게 절감하는 통합 레이크하우스 아키텍처를 제공합니다. 데이터 요구가 기하급수적으로 증가함에 따라 Databricks는 데이터 처리에 있어 비용 효율적인 솔루션입니다.
- 모델 구축 시간 단축: Databricks Mosaic AI 도구는 AutoML 및 Managed MLflow와 같은 기능을 통해 ML 개발 자동화 및 전체 ML 모델 라이프사이클 관리를 통해 모델 구축 시간을 단축합니다.
- 실험에서 배포까지: Databricks는 실험에서 배포까지 원활한 전환을 제공합니다.
- 모델 정확도 향상: Databricks는 Ray와 같은 맞춤형 패키지 접근성을 제공하여 하이퍼파라미터 연구 실행을 단순화하고, 복잡한 사용 사례 실행과 동시 개발(여러 개인이 모델 작업 또는 접근 가능)을 가능하게 합니다.
- 데이터 관리/거버넌스 혜택: Unity Catalog 구현은 중요한 거버넌스 프레임워크를 제공하여 모든 데이터 자산에 대한 통합 뷰를 제공하고 민감한 데이터 접근 관리 및 제어를 용이하게 합니다.
결론적으로, Databricks는 시뮬레이션 생성 AI 프로젝트 구현에 있어 강력하고 효율적이며 안전한 플랫폼을 제공합니다. 롤스로이스와 Databricks 간의 협업은 이 새로운 기술의 변혁적인 힘을 입증했습니다. 엔진의 3차원 특성을 고려하여 향후 작업에는 2D 모델에서 3D 모델로의 전환 탐색이 포함될 것입니다.
Translated by HaUn Kim (Original Blog Post)