TechToast

끊기지 않는 유입.

1부의 끝에서, 2부는 자료가 끊기지 않고 흘러들게 만드는 이야기라고 적었다. 자동화 8개를 붙였고, 그중 몇 개는 이상한 방식으로 실패했다고도 적었다. 이제 그 여덟 개가 무엇이고, 왜 그 간격으로 도는지부터 본다. 1부에서 만든 것은, 정확히는 소화 기관이다. 문서를 읽어 위키로 합성하고, 임베딩으로 색인하고, 질문이 오면 거기서 답을 찾는. 그런데 그 어느 것도, 재료가 들어오지 않으면 시작되지 않는다. 합성할 소스가 없으면 합성할 게 없고, 색인할 파일이 없으면 색인할 게 없다. 이걸 만들고 며칠 만에, 일이 실제로 어디에 있는지가 보였다. 합성이 아니라, 끊기지 않는 유입이었다. 유입 경로는 네 갈래였다. 손으로 쓰는 노트, 회의에서 나는 소리, 포털에 오는 메일, 그리고 일정. 넷 다 손이 닿..

위키가 영어로 쓰여 있었다 — 4,382개 중 482개

1부의 마지막 편이다. 앞 세 편에서 세컨드브레인을 LLM-Wiki 패턴으로 시작하고, 문서 2만 개를 만나 벡터 검색 계층을 얹고, 온갖 파일 포맷에서 텍스트를 꺼내는 이야기를 썼다. 이 편은, 그렇게 만든 위키를 열어봤을 때 생긴 일이다. 2주쯤 지나 브라우징 화면을 붙였고, 페이지를 넘겨보다가 이상한 걸 발견했다. 일부 페이지가 영어로 쓰여 있었다. 내 자료는 거의 전부 한국어인데, 합성된 페이지가 영어라니, 아무도 부탁하지 않은 번역이다. 왜 그랬는지부터 보자. 원인은 금방 찾았는데, 프롬프트를 열어보니 ingest 시 LLM 에 주는 시스템 프롬프트에 한국어로 작성 지시가 이미 있었다. 지금 규칙은 맞고, 영어 페이지는 초기 버전의 잔재다. 처음엔 프롬프트가 영어였고, 모델이 영어로 답했는데,..

20k 문서를 실제로 읽어들이기 — 로더 지옥

앞 편에서 문서 2만 개를 만나 설계를 고친 이야기를 썼다. 벡터 검색 계층을 얹고, 청크로 쪼개서 임베딩하면 된다고 적었는데, 그 문장에는 앞 단계가 하나 빠져 있다. 파일에서 텍스트를 꺼내는 일. 이게 이 프로젝트에서 제일 지루하고, 제일 오래 걸리고, 블로그에서 아무도 안 쓰는 부분이다. RAG 튜토리얼은 대부분 PyPDFLoader 한 줄로 끝난다. 실제 자료는 그렇게 생기지 않았고, 공문 하나만 열어봐도 한글 파일이 나오고, 구형 오피스 파일이 나오고, 스캔 이미지가 나온다. 이 글이 그 삽질을 반복하지 않게 해주면 좋겠다. 처리해야 했던 포맷드라이브에서 당겨온 파일의 확장자를 세어보고 정리한 목록이다. pdf docx pptx xlsx csv txt mdhwp hwpx..

개인 세컨드브레인을 RAG 없이 시작한 이유

의료영상 AI 연구를 하다 보니, 논문이며 회의록, 연구계획서, 강의자료, 과제 문서가 몇 년치 쌓였는데, 어느 순간부터는 어디에 뭐가 있는지 내 머리로 감당이 안 되기 시작했다. 검색을 해도 파일명이 기억나야 찾아지고, 파일명은 당연히 기억나지 않고. 그래서 개인 연구용 세컨드브레인을 만들기로 했다. 2026년 6월 2일이었다. 이 글은 그 첫날에 내린 설계 결정 하나에 관한 이야기다. 요즘 이런 걸 만든다고 하면 거의 자동으로 나오는 답이 있는데, 문서를 청크로 쪼개 임베딩하고 벡터DB에 넣어두고, 질문이 들어오면 비슷한 조각을 꺼내 LLM에 물리는 방식, 그러니까 RAG다. 나는 그걸 안 하기로 시작했다. 두 달 뒤에 이 시스템은 "아무짝에도 쓸모없다"는 말을 듣게 되는데, 미리 밝혀두면 그 원인은..

20,000개 문서 앞에서 설계가 무너진 날

앞 편에서, 개인 연구용 세컨드브레인을 벡터 RAG 없이 시작한 이야기를 썼다. 소스가 들어올 때 LLM 이 한 번 읽고 링크 걸린 마크다운으로 다시 쓰는 방식(Karpathy 의 LLM-Wiki 패턴)이고, 근거 중 하나가 "개인 규모에서는 사전합성이 RAG 를 이긴다" 였다. 2026년 6월 2일에 그게 엔드투엔드로 돌아가는 걸 확인했다. 같은 날 설계가 깨졌다. 이 편은 그 이야기고, 시리즈에서 제일 중요한 편이라고 생각한다. 산수 한 줄로 끝났다구글드라이브에는 대학 두 곳에서 일하며 만든 자료가 예전부터 쌓여 있었다. 브레인에 넣을 대상으로 그 폴더를 지정하고, 규모를 세어봤다. 폴더 두 개를 합쳐 문서 20,500개에, 약 53 GiB 였다. 이하 이 글에서는 약 2만 개라고 부르자. 앞 편에..

코스모 커뮤니케이터를 패기롭게 사놓고 나서는, 기기의 한계로 안드로이드에서 뭘 더 사용하는건 포기하고 리눅스를 설치했다. Genian OS 라고 처음들어보는데, Debian / Ubuntu 계열인 듯. 일단 설치하면 US 키보드 배열로 되어 있는데, 쓰는 사람은 알다시피 키보드 배열 중 특수문자 위치가 다르다. 일단 시작부터 문제되는 건, 리눅스 세팅 중 필수적으로 쓰이는 백슬래쉬가 한글 키보드 위치에서는 fn + m 인데, 영문 키보드에서는 shift + , 인 것. 일단 세팅을 해야 하니 부들부들 떨며 짜증팍팍 내며 영어 키보드 자판을 보면서 한다. 1. 레이아웃에 한글 레이아웃 추가 안드로이드에서는 자소분리 일어나긴 했지만 레이아웃을 지원은 했다. Genian OS 에서는 지원조차 하지않는다. 수정..

자려고 누워서, 스팀덱으로 디아2나 좀 찌그리다 잘라 했는데 갑자기 배틀넷이 이상하다. 정확히는, 로그인은 되는데 그 이후에 회색창만 덩그러니 떠있다. 뭐 이것저것 낑낑매 봤는데, 레딧에 있는 것이 정답. 현재 배틀넷 업데이트로 인해 프로톤이든 뭐든 부딛히는게 있어서 화면이 안나오는 증상임. 실행 방법은 크게 2가지. 1. 데스크탑 모드에서 배틀넷을 켜면 마찬가지로 회색화면이긴 한데, 트레이바를 우클릭해서 원하는 게임을 키면 게임은 잘 켜짐. 2. 스팀덱 안의 battle.net 이 깔린 폴더로 찾아들어가서, (STEAM LIBRARY 에서 Battle.net Launcher.exe 파일이 있는 폴더로 가면 된다) 가장 최신 업데이트 내용이 들어있을 것으로 예상되는 Battle.net.14542 버전 폴..

몇일 간 난리부르스 치며 고생했던 내용을 기록한다. OS X Sonoma 가 되면서, 그동안 울며 겨자먹기로 이용하던 맥용 한글 2014 VP 에 치명적인 오류가 생기기 시작했다. 그림이 보이지 않기 시작한 것. 당장 머리속에 떠오른 방법은 Parallels 로 가상 윈도우를 올려, 그 안에 한글을 설치하는 것이지만 내 맥 활용 특성상, VM을 이용한 방식은 램을 너무 많이 잡아먹기도 하고 잡아먹은 만큼의 활용도도 너무 심하게 떨어졌다. 특히, 교육할인을 받아 구매한 Parallels 는 Standard license 라서, 램을 8GB까지밖에 설정하지 못해서 큰 문서를 여는데 답답해서 도저히 사용할 수가 없었다. 그래서 과감하게 환불을 질러버리고. 가장 이상적인 건 Wine stable 8 버전대로 올..

이전 모디아 개조 어쩌구 하면서 낑낑 매다가 .. 결국 시간에 부딛혀서 돈으로 해결하는 방법을 선택하고, 그 목표와 가장 근접한 기기인 Cosmo communicator 제품을 구매했다. 뭐 GPD Pocket 같은 다른 선택지도 있었지만, 윈도우 pc 계열에서는 배터리 관리도 그렇고 켜자마자 바로 화면에 노트를 할 수 있는 환경이 나오는 것이 주 목적이었는데 안드로이드가 더 좋은 선택일 것 같고, 조금 더 컴팩트해서 결정했다. .. 그나저나 뭐 국내에 매물이 있어야 사든 말든 하지. 회사 본사 홈페이지에서 구매하려니 90만원 이상을 육박하는 금액을 제출해야 하고. 중고장터 사이트들을 두루두루 다 뒤져봐도 해당 제품이 매물로 올라오는 것이 없다. 뭐 별 수 있겠어, 이베이로 눈을 돌렸다. 300 파운드에..

나름 유명한 브랜드 아파트에 살고 있다. 얼마전 현관 시스템을 통채로 다 변경해서, 정말 최신식의 출입 게이트로 변경되었다. 집에 발급된 2장의 카드키를 이용해서 출입구 문도 열 수 있고, 집의 도어락도 열 수 있으며 아파트 안에 있는 커뮤니티 센터에서 음식도 먹을 수 있고, 헬스장 출입도 가능하다. 그런데, 와이프가 카드키 맨날 들고 다니기 귀찮다고 한다. 핸드폰으로 띡 되었으면 좋겠다고. 그 의견에 전적으로 동의했고, 할 수 있는 방법을 찾아 헤맸다. 방법은 RFID 카드키 복사. 열심히 공부 및 시행착오를 한 결과를 공유한다. RFID 카드 복사를 할 수 있는 프로토콜은 당연하게도 매우 여러가지가 있지만, 우리나라에서 활용되는 거의 대부분의 카드는 MIFARE Classic 1K 라는 형식이다. 해..