My Smarteasy의 유튜브 가이드 202502-1

유튜브 가이드 (2025년 2월 1호)

쏟아지는 유튜브 영상, 뭘 봐야 할지 고민이라면? 유튜브 가이드가 당신의 시간을 아껴드립니다! (옛날 TV 가이드처럼) 시청자의 취향에 맞는 맞춤 영상 큐레이션으로, 시간 낭비 없이 만족스러운 시청을 경험하세요!

 

대형 언어 모델(LLM)과 검색을 효과적으로 결합하는 방법에 대한 논의를 담고 있습니다. 특히, “CoAT: Chain of Associated Thoughts”라는 프레임워크를 소개하며, 이 프레임워크가 LLM의 추론 능력을 향상시키기 위해 몬테카를로 트리 탐색(MCTS)과 유사한 검색 방식을 사용하는 방법을 설명합니다.

가이드: 추론 특화 모델이 기대 수준의 추론을 해 내고 있기 때문에 CoT 결합은 의미가 없어 보입니다. Cot는 CoAT 이름을 짓는데 기여 한 정도 평가를 해 줄 수 있습니다.
CoAT는 결국 추론 특화 모델에 검색증강생성(RAG)을 하자는 것으로 보입니다. 검색증강생성을 위한 데이터 검색 방법으로 몬테카를로 트리 탐색(MCTS)을 사용하자는 것이 핵심 주장으로 보입니다.

추론 능력을 향상시키기 위해 몬테카를로 트리 탐색(MCTS)이 어떻게 사용되는지 알고 싶으세요?

 

전통적인 프로그래밍에서는 로직이 핵심이었지만, AI 에이전트 프로그래밍에서는 로직만으로는 부족합니다. AI 에이전트 프로그래밍의 핵심은 프롬프트와 프롬프트를 다루는 로직의 조화로운 설계에 있습니다.

  • 랭스미스 분석: 랭스미스 페이지를 통해 Plan & Execute 튜토리얼의 실행 과정을 자세히 분석했습니다.
  • Plan, Execute, Replan 반복: 튜토리얼은 Plan(계획), Execute(실행), Replan(재계획) 단계를 반복하며 최종 답변을 도출합니다.
  • Prompt의 중요성: 각 단계에서 AI 모델에게 전달되는 Prompt가 어떻게 계획 수립, 정보 검색, 답변 생성 등에 영향을 미치는지 확인했습니다.
  • Replan의 유연성: Replan 단계에서 이전 단계의 결과를 바탕으로 계획을 수정하고, 예상치 못한 상황(예: 우승자 2명)에 대응하는 것을 확인했습니다.

가이드: AI Agent 개발에 관심이 있고 어떤 방식으로 개발할 지 아이디어를 얻고 싶으세요? 영상 보시고 더 알고 싶다는 생각이 든다면 Plan-and-Solve-Prompting에 대해서도 알아 보세요.  

 

안녕하세요! 코딩 알려주는 아 누나 스타일로 딥시크 분석 내용을 요약해 드릴게요.

1. 딥시크, 아시아의 자존심? 늦게 왔지만 핵꿀잼!

  • 오픈AI가 비싸다고 징징거릴 때, 딥시크가 등장! “나 엄청 싸!” 시전
  • 가격 경쟁력에 집중하는 다른 매체와 달리, 우리는 기술력에 집중! 딥시크 개발자들의 하드캐리 비법을 파헤쳐 보자구요!

2. 딥시크 탄생 비화: 흙수저 개발팀의 반란?

  • 상황: 후발주자 + 구린 반도체(H800) + 돈 없음 ㅠㅠ
  • 극복: 딥시크 개발자들이 다 이겨버림! (어떻게? 아래에서 공개!)

3. 벤치마킹, 지식 증류 방식: 남의 밥상 뺏어먹기?!

  • 오픈AI가 열심히 잡아놓은 물고기, 딥시크가 잽싸게 낚아채기! (기술 이름: 지식 증류 방식)
  • 지식 증류 방식: 기존 모델(선생님 모델)의 핵심만 빠르게 배우는 기술! (챗GPT에게 질문하면서 배우기!)
  • 핵심: 아인슈타인 두 시간 인터뷰하면 최고 과학자 되는 것과 같은 원리! 며칠 만에 웬만한 수준의 모델 뚝딱!
  • AI 업계 핵폭탄: “Scary! 우리 기술 다 뺏기겠어!” (짝퉁 시장 퀄리티 7, 80% 따라잡는 느낌)

4. 증류 기술, 불법은 아니지만… 딥시크, 메타&알리바바에서 증류했다 주장!

  • 오픈AI: “응 아니야, 너 챗GPT 베꼈어! 고소할 거야!”
  • 딥시크 모델에게 “너 무슨 모델이야?” 질문 -> “I am 챗GPT” 답변 (빼박 증거?!)
  • 미국 발칵 뒤집힘: “증류 더 어렵게 만들 거야!”

5. GPU 구린 거 극복: 하드웨어 대신 소프트웨어에 올인!

  • 오픈AI: 하드웨어 기업 빨로 밀어붙이기
  • 딥시크: PTX 사용, GPU 한계 극대화! (쿠다 버리고 기계어 어셈블리어 사용!)
  • 메모리 최적화, 병목 현상 감소, 처리량 증가! 개발자 하드캐리 인정?!

6. 딥시크의 학습법: 돈 없는 설움, 인공지능이 인공지능 리뷰?!

  • 챗GPT: 데이터 빵빵 + 인간 선생님(지도 학습) + 정교한 리뷰
  • 딥시크: 돈 없으니 인공지능이 인공지능 리뷰 (가장 돈 안 드는 방식)
  • 규칙 기반 강화 학습 (GRP): 딥시크 발명! 정답에 가까운 답변에 높은 점수!
  • 아하 모멘트: 모델 스스로 문제 해결 방식 바꾸는 창의성 발견! (인간처럼 문제 풀기!)
  • 4개 국어 답변: 딥시크 모델, 갑자기 4개 국어 섞어서 답변! (기계 입장에선 당연?!) -> 인간에게 맞춰 재조정

7. 딥시크 R1 모델: 아직 완벽하진 않지만…

  • 공격적인 질문에 거부 X, 악성 코드 만드는 법 상세 지침 알려줌, 개인 정보 막 알려줌 (물론 대부분 거짓)

8. 결론:

  • 아직은 챗GPT 승! 하지만 딥시크 덕분에 AI 가격 경쟁 시작!
  • 모건 스탠리: “소비자용 LLM 범용화 시대 -> 배포 플랫폼이 핵심! (애플이 최고!)”
  • AI도 결국 플랫폼 싸움! 어떤 플랫폼에서 선택될지가 중요!

9. 우리(코딩 알려주는 아 누나)가 해야 할 일:

  • 플랫폼 만들 수 있도록 코딩 강의 많이 사랑해 주세요! 💖

핵심:

딥시크는 후발주자의 불리함을 기술력(지식 증류, PTX, GRP)으로 극복하려 했지만, 아직 완벽하진 않다! 하지만 딥시크의 등장으로 AI 가격 경쟁이 시작되었고, 앞으로는 플랫폼 경쟁이 중요해질 것이다! (그러니 코딩 강의 많이 사랑해달라는 결론 😉)

가이드: 딥시크에 관심 있는데 아직 알아보진 못했나요? 관련된 이야기를 유쾌하게?

About the Author
(주)뉴테크프라임 대표 김현남입니다. 저에 대해 좀 더 알기를 원하시는 분은 아래 링크를 참조하세요. http://www.umlcert.com/kimhn/

Leave a Reply

*