스마트폰은 알아도 엣지 디바이스가 뭐야? 하는 분들 많으실 거예요. 엣지 디바이스는 데이터 소스를 생성하는 장비(device)에서 데이터 처리를 수행하는 장비를 의미해요. 즉, 우리가 스마트폰을 사용하는 행위는 엣지 디바이스를 사용하는 행위라고 할 수 있어요.

그런데 어떻게 스마트폰으로 엣지 컴퓨팅 기술을 구동하게 되었을까요? 바로 sLLM과 엣지 디바이스의 만남입니다. LLM(대형언어모델)은 흔히 말하는 생성형 AI로 번역, 추론, 요약 등 다양한 작업을 수행할 수 있어요. 그런데 LLM을 위해서는 수많은 컴퓨팅 및 인프라를 소모합니다. 특히 이 과정에서 클라우드 컴퓨팅이 적용되어 중앙집중 과정에서 보안, 프라이버시 문제와 속도 관련 문제가 발생해요.

그러나 sLLM(소형언어모델)은 엣지 디바이스에 탑재될 수 있는 생성형 AI로 LLM처럼 든 기능이 아닌 필요한 기능을 알맞게 수행할 수 있어요. 엣지 컴퓨팅은 엣지 디바이스에서 단독으로 데이터 처리가 가능해 실시간 번역이 가능한 AI가 인터넷 연결없이도 가능하게 된거죠. 특히 sLLM은 구동에 필요한 최소한의 NPU만 있으면 되므로 스마트폰이 이에 해당되는 엣지 디바이스로 변모하게 되었어요. 

3️⃣ 비즈니스 연속성 계획

1️⃣ 인프라 장비 성능

2️⃣ 제한된 확장성

3️⃣ 상호 운용성

특히 반도체, 애플리케이션 개발, 보안, SI를 비롯하여 자율주행, 제조업 등 각종 산업현장과 메타버스 등 폭넓은 분야에서 사용되고 있는데요. 사람들의 삶의 질을 향상시키는 기술로써 IT 분야가 더 발전할수 있는 토대가 될 것으로 기대되고 있습니다.