2025 FriendlyAI Seoul Meetup 회고
2025 FriendlyAI Seoul Meetup에서 AI 산업의 현업 엔지니어 업무와 스토리에 대한 후기를 포스팅합니다.
📌 들어가며
2025년 10월 16일에 주최한 FriendlyAI 서울 밋업에 다녀왔습니다. 개인적으로 바빴던 일정들이 어느 정도 마무리되어서 늦게나마 정리해 봅니다. 뒤늦은 감이 있지만 현장에서 작성했던 기록을 토대로 회고를 남겨보겠습니다.
밋업 행사 정보는 아래와 같습니다.
- 행사: FriendlyAI Seoul Meetup 2025: 함께 여는 K-AI의 미래
- 장소: 스페이스쉐어 삼성역
- 시각: 2025년 10월 16일(목) 18:00
간식도 주더라구요 👍
이번 밋업에서 발표를 진행한 기업은 LG AI, SK 텔레콤, 업스테이지, NC AI, FriendlyAI였습니다. FriendlyAI를 제외한 4개 기업은 네이버 클라우드와 함께 과기정통부의 K-AI(국가대표 AI) 프로젝트에 선발된 기업들입니다. 선정 기업 중 네이버 클라우드는 이번 밋업에 참여하지 않았지만, 대신 AI 추론 및 인프라 분야 파트너로서 이들과 협력 중인 FriendlyAI가 행사를 주최하며 자리를 채웠습니다.
K-AI의 추진 목적은 공공, 경제, 사회 등 다양한 분야에서의 인공지능 전환(AX)이라고 하는데, 2025년부터 시작된 사업이라 아직 본격적인 결과물은 나온 게 없더라구요. 조금 더 지켜봐야 할 거 같습니다.
사실 저는 지금까지 일반적인 소프트웨어를 개발해왔지만 최근에는 AI 기술, 그중에서도 특히 RAG에 흥미를 느끼게 되었습니다. 단순히 LLM API를 호출하는 것을 넘어, 제가 가진 데이터와 LLM을 결합해 실질적인 가치를 만드는 서비스를 만들어보고 싶다는 욕심이 생겼죠.
하지만 혼자서 논문이나 구글링으로 정보를 습득하다 보니, ‘내가 지금 가고 있는 방향이 맞나?’ 하는 의구심(?)이 들더라구요. 그래서 한국의 AI 선구자들은 어떤 방식으로 공부하였고 또 고찰하는지, 나아가 실제 프로덕션 환경에서 어떤 문제들이 발생하고 엔지니어들이 그것을 어떻게 해결하고 있는지 너무나도 궁금했습니다. 그래서 현장의 노하우를 훔쳐보고자 이번 밋업에 참석하게 되었죠. 😎
📌 기업별 AI 활용 방법
✨ LG AI - 엑사원
LG AI는 엑사원(EXAONE)이라는 LLM 모델을 개발하였습니다. 320억 개의 파라미터를 가진 32B 모델과, 1.2B 파라미터를 가진 온 디바이스 모델 두개로 구분된다고 해요. 이미 LG 계열사 내의 다양한 산업에서 적용되어 서비스를 제공하고 있었는데요. 화장품 소재 개발 시 유해 물질 검사(LG 화학으로 추측), 제조 공정에서 불량품 검출(LG 전자나 디스플레이로 추측) 등에 사용된다고 합니다. 정확한 수치는 못 들었으나 공정 개발이나 신소재 개발에 있어 엄청난 시간 단축과 효율성 제공이라는 유의미한 가치를 창출하고 있었습니다.
✨ SK 텔레콤 - 에이닷
SK 텔레콤은 에이닷 모델을 소개했는데요, 발표 내내 느낀 점은 단순 챗봇을 넘어 통신사의 강점을 결합한 AI 개인 비서를 지향하고 있다는 점입니다. 에이닷은 멀티 LLM 전략을 가졌는데요, 자체 개발한 에이닷 엑스는 한국 통신사 도메인 지식을 강점으로 두고 있었고 추가로 GPT 4, Perlexity 등 외부 모델 엔진과 연동하여 추론, RAG 등을 보완하였습니다. 또한 상황에 맞추어 모델을 선택하여 사용하는 오케스트레이터 전략을 도입하였습니다. 학습 파이프라인에서는 통신사답게 핏한 방법을 선택했습니다. 양질의 한국어 데이터 기반으로 Pre-Training을 진행했고 RLHF로 기계적인 말투를 친구 같은 페르소나로 구현하였습니다. 이처럼 목적에 따라 모델을 선별하고 서비스를 매끄럽게 연결하여 제공하는 역량이 중요한 거 같습니다.
(SK 텔레콤의 AX 개발 이력인데 촬영한 이미지가 조금 깨져서 Gemini로 다듬었습니당)
✨ 업스테이지 - Solar
업스테이지는 솔직히 이번 밋업을 통해 처음 알게 된 기업인데요. 문서 AI 기술로 주목받고 있었습니다. Solar(솔라)라는 스몰 모델의 작지만 강력한 성능 때문에 한때 글로벌 시장에서 파란을 일으켰다고 합니다. 허깅 페이스 오픈 LLM 리더보드에서 GPT-3.5를 제치고 세계 1위를 기록한 이력을 보유하고 있었습니다. LLM을 개발하기 전부터 OCR 분야의 강자 기업으로 손꼽혔는데, 현재는 LLM, OCR을 결합하여 복잡한 문서를 분석하고 이해하는 성능이 매우 좋다고 합니다. 처음 들었을 때에는 LLM과 OCR 결합이 뭘까 싶었는데 RAG 구현이나 자체 LLM 모델 개발할 때에도 필수적으로 사용되는 전처리 기술이겠네요.
✨ NC AI - VARCO
NC AI는 게임 회사답게 게임 개발의 생산성을 높이고 가상 세계를 만드는 도구로 AI를 활용 중이었습니다. 자체 개발한 VARCO 모델로 게임 창작을 시도하고 있었는데요, 게임의 아이템 이미지나 게임 내 NPC들의 대사, 보이스를 사용자 입력에 맞게 생성할 수 있었습니다. 데모 영상을 보는데 이번 밋업에서 가장 재미게 봤던 거 같아요. 결과가 텍스트로 출력되는 여타 활용 방법과 달리 시각적인 결과물이 나온다는 점이 집중을 하게 만들었던 거 같습니다. 게임 개발자 관점에서 반복적일 수 있는 에셋 작업을 AI 도입으로 비용과 시간을 줄인다는 건데, 확실히 눈으로 직접 보니 더욱이 와닿더라고요. 나아가 AGI 구현 시점에 맞추어 가상 세계 구축을 준비하는 데에 VARCO 모델을 사용 중이라고 했는데, 해당 부분은 명확히 이해하지 못ㄱ했습니다. 🥲 하지만 어떤 산업이든지 간에 AI의 수요가 존재한다는 데에는 확신을 가지게 되었습니다.
✨ FriendlyAI - Orca
FriendlyAI는 AI 서빙 기업인데요, 앞서 소개 드린 기업들이 LLM 모델을 운영할 수 있도록 인프라를 제공합니다. LLM을 실제 서비스에 연동하려면 만만치 않은 GPU 비용과 레이턴시를 고려해야 하죠. FriendlyAI는 Orca라는 기술로 GPU 구동 시 메모리 낭비를 없애고 처리량을 극대화하는 Continuous Batching 기술을 세계 최초로 제안했다고 합니다. 또한 자체 개발한 서빙 엔진으로 수십 배 빠른 추론 속도를 제공한다고 해요. 개발자가 복잡한 GPU 인프라를 직접 구축할 필요 없이, API 형태로 Llama 3, Solar, Mixtral 같은 오픈 소스 모델을 바로 가져다 쓸 수도 있습니다. LLM 서비스에 대한 인프라와 서빙은 고민해 본 적이 없던 영역인데 이번 세션을 통해 시야가 넓어진 거 같습니다. 👀
📌 후기
이번 밋업은 AI에 대한 시야를 확장시킨 계기가 된 거 같아요. 현업에서는 이미 다양한 산업에서 AI를 활용하며 비즈니스의 구조 자체를 재편하고 있었습니다. AI는 이제 그저 똑똑한 챗봇, 자동화 도구라는 틀을 아득히 넘어선 거 같아요.
다양한 기업들의 사례를 들으며 한 가지 확신이 들었습니다. 앞으로 AI를 도입하지 않는 기업은 시장에서 도태될 수밖에 없다는 것입니다. 과거 인터넷이나 모바일이 등장했을 때와 마찬가지로 이제 AI는 기업의 경쟁력을 결정짓는 가장 기초적인 인프라로 자리매김했기 때문이죠. 효율성, 생산성, 고객이 겪는 경험의 품질 등 다방면에서 AI를 활용하는 기업과 그렇지 못한 기업의 격차가 발생할 것입니다. 어떻게 보면 5차 산업혁명의 초입이 아닐까 싶어요. 증기기관이 육체노동을 대체하고 인터넷이 정보의 흐름을 바꾼 것처럼 AI는 인간의 지적 노동을 확장시켜주기 때문이죠. 이번 밋업에서 만난 기업들을 한참 전에 이 사실을 인지한 것이 아닐까요?
이러한 흐름 속에서 엔지니어로 살아남으려면 AI 활용 능력을 필수적으로 키워야 합니다. 단순하게 API를 호출하는 수준이 아니라, 모델의 구조를 이해하고, 내 서비스에 맞게 데이터를 가공하여 최적화된 인프라 위에서 배포하는 그런 능력을 말이지요. 이러한 역량이 앞으로 개발자를 평가하는 척도의 일부 범주가 될 것입니다. 몸값을 키우기 이전에 살아남기 위해 필연적인 변화의 주체가 되어야겠다는 생각이 듭니다.. 따흑..
결론적으로 이번 FriendlyAI 밋업은 안주하고 있던 저에게 경각심을 느끼게 해준 뜻깊은 세미나였습니다. 2025년의 끝자락에서 AI의 중요성을 인지하게 되었으니 2026년은 AI를 이해하고 공부하고 나아가 자체 RAG를 개발해 보는 것으로 목표를 설정해야겠습니다. 이상으로 2025 FriendlyAI Seoul Meetup 회고를 마치겠습니다. 읽어주셔서 감사합니다!
