TechToast

[세컨드브레인 개발기] 7. 전사가 깨진 이유.지난 편의 마지막에서, 전사가 전사대로 싸움을 준비하고 있다고 했는데, 그 싸움의 상대는 소리가 아니었습니다. 회의 녹음을 글로 바꾸는 brain-transcribe라는 작업이, 죽어 있었어요. 녹음기는 소리를 받는 법을 고쳤는데, 정작 그 소리를 받아야 할 다음 관문이 넘어져 있었습니다. 그달 중반의 기록에는, numpy와 numba의 충돌이라는 진단 한 줄이 남아 있습니다. 버전 두 개가 싸운 흔적을, 하나씩 보겠습니다. 전사가 하는 일은 단순한데, 16k 모노 wav를 받아서 텍스트로 바꾸는 것 하나입니다. 그 일을 하는 도구는 mlx-whisper인데, large-v3-turbo라는 모델을 맥의 통합 메모리 위에서 도는 애플 실리콘 전용 음성 인식이에..

[세컨드브레인 개발기] 6. 소리가 줄어드는 녹음.메뉴바 회의 녹음기부터 봅니다. 여덟 개로 시작해 열한 개가 된 파이프라인에, 첫 번째로 붙은 것이 이 녹음기예요. 회의가 시작되면 클릭하고, 끝나면 또 클릭하는, 그게 전부인 앱입니다. 5분마다 도는 동기화나 10분마다 도는 전사와 달리, 이건 손가락이 눌러야 시작되는 트리거 방식입니다. 트리거로 산다는 점은 끝까지 그대로였는데, 소리를 받는 방식만 이상하게 무너졌습니다. 열 초를 녹음했는데 2.73초짜리 파일이 나오는, 소리가 줄어드는 실패였어요. 무엇이 줄었는지, 하나씩 보겠습니다. 그달 중반에 붙은 세 개는 성격이 저마다 달랐습니다. 매일 새벽 세 시에 도는 정리 작업, 매주 월요일 아홉 시의 논문 리캡, 그리고 버튼이 눌릴 때 도는 녹음기. 셋 ..

[세컨드브레인 개발기] 5. 끊기지 않는 유입.1부의 끝에서, 2부는 자료가 끊기지 않고 흘러들게 만드는 이야기라고 적었습니다. 자동화 8개를 붙였고, 그중 몇 개는 이상한 방식으로 실패했다고도 적었어요. 이제 그 여덟 개가 무엇이고, 왜 그 간격으로 도는지부터 보겠습니다. 1부에서 만든 것은, 정확히는 소화 기관입니다. 문서를 읽어 위키로 합성하고, 임베딩으로 색인하고, 질문이 오면 거기서 답을 찾는. 그런데 그 어느 것도, 재료가 들어오지 않으면 시작되지 않습니다. 합성할 소스가 없으면 합성할 게 없고, 색인할 파일이 없으면 색인할 게 없어요. 이걸 만들고 며칠 만에, 일이 실제로 어디에 있는지가 보였습니다. 합성이 아니라, 끊기지 않는 유입이었어요. 유입 경로는 네 갈래였습니다. 손으로 쓰는 노트..

[세컨드브레인 개발기] 4. 위키가 영어로 쓰여 있었다 — 4,382개 중 482개1부의 마지막 편입니다. 앞 세 편에서 세컨드브레인을 LLM-Wiki 패턴으로 시작하고, 문서 2만 개를 만나 벡터 검색 계층을 얹고, 온갖 파일 포맷에서 텍스트를 꺼내는 이야기를 썼습니다. 이 편은, 그렇게 만든 위키를 열어봤을 때 생긴 일입니다. 2주쯤 지나 브라우징 화면을 붙였고, 페이지를 넘겨보다가 이상한 걸 발견했습니다. 일부 페이지가 영어로 쓰여 있었습니다. 내 자료는 거의 전부 한국어인데, 합성된 페이지가 영어라니. 아무도 부탁하지 않은 번역이었죠. 왜 그랬는지부터 보겠습니다. 원인은 금방 찾았는데, ingest 시 LLM에 주는 시스템 프롬프트에 한국어로 작성 지시가 이미 있었습니다. 어라, 지금 규칙은 맞..

[세컨드브레인 개발기] 3. 20k 문서를 실제로 읽어들이기 — 로더 지옥앞 편에서 문서 2만 개를 만나 설계를 고친 이야기를 썼습니다. 벡터 검색 계층을 얹고, 청크로 쪼개서 임베딩하면 된다고 적었는데, 그 문장에는 앞 단계가 하나 빠져 있습니다. 파일에서 텍스트를 꺼내는 일. 이게 이 프로젝트에서 제일 지루하고, 제일 오래 걸리고, 블로그에서 아무도 안 쓰는 부분입니다. RAG 튜토리얼은 대부분 PyPDFLoader 한 줄로 끝나요. 실제 자료는 그렇게 생기지 않았습니다. 공문 하나만 열어봐도 한글 파일이 나오고, 구형 오피스 파일이 나오고, 스캔 이미지가 나옵니다. 이 글이 그 삽질을 반복하지 않게 해주면 좋겠습니다.처리해야 했던 포맷 드라이브에서 당겨온 파일의 확장자를 세어보고 정리한 목록입니다...

[세컨드브레인 개발기] 2. 20,000개 문서 앞에서 설계가 무너진 날앞 편에서, 개인 연구용 세컨드브레인을 벡터 RAG 없이 시작한 이야기를 썼습니다. 소스가 들어올 때 LLM이 한 번 읽고 링크 걸린 마크다운으로 다시 쓰는 방식(Karpathy의 LLM-Wiki 패턴)이고, 근거 중 하나가 "개인 규모에서는 사전합성이 RAG를 이긴다"였습니다. 2026년 6월 2일에 그게 엔드투엔드로 돌아가는 걸 확인했습니다. 같은 날 설계가 깨졌습니다. 이 편은 그 이야기고, 시리즈에서 제일 중요한 편이라고 생각합니다.산수 한 줄로 끝났다 구글드라이브에는 대학 두 곳에서 일하며 만든 자료가 예전부터 쌓여 있었습니다. 브레인에 넣을 대상으로 그 폴더를 지정하고, 규모를 세어봤어요. 폴더 두 개를 합쳐 문서 20,..

[세컨드브레인 개발기] 1. 개인 세컨드브레인을 RAG 없이 시작한 이유의료영상 AI 연구를 하다 보니, 논문이며 회의록, 연구계획서, 강의자료, 과제 문서가 몇 년치 쌓였는데, 어느 순간부터는 어디에 뭐가 있는지 내 머리로 감당이 안 되기 시작했습니다. 검색을 해도 파일명이 기억나야 찾아지고, 파일명은 당연히 기억나지 않고요. 그래서 개인 연구용 세컨드브레인을 만들기로 했습니다. 2026년 6월 2일이었어요. 이 글은 그 첫날에 내린 설계 결정 하나에 관한 이야기입니다. 요즘 이런 걸 만든다고 하면 거의 자동으로 나오는 답이 있는데, 문서를 청크로 쪼개 임베딩하고 벡터DB에 넣어두고, 질문이 들어오면 비슷한 조각을 꺼내 LLM에 물리는 방식, 그러니까 RAG입니다. 나는 그걸 안 하기로 시작했습니다. ..

Adsense 가입을 시작한 것은 꽤 오래 전 이야기이다. 다른 주제로 소소한 다른 블로그를 운영할 때, '이렇게 글만 쓰다가 굶어죽지' 하는 마음에 광고 수익을 좀 올려볼까 하고 등록해 봤었다. 처음에 광고가 게재되고, 가끔 클릭되어 소소한 금액이 쌓이는 즐거움에 운영을 즐거이 하고 있었는데, 어느 정도 금액이 쌓인 상태에서 PIN 코드를 발급받으라는 메세지와 함께 집으로 우편을 보낸다는 메일이 왔었다. 그래 뭐, 사람을 정확하게 확인하는 과정이 필요하겠지~ 하고 신청했고, ... 지금 세번 째 재 신청이다. 편지 발송을 신청한 지 벌써 3번째, 6달째... 도데체 올 생각을 안 하니 글 쓸 힘도 안 나는 와중에, 무언가 업데이트가 없나 하여 애드센스 홈페이지에 들어갔더니, 덜컥 어떤 링크를 발견했다...

예전에 도메인 관련 욕심이 참 많았다. 가지고 있던 도메인 갯수만 열댓개, 다 크게 의미 없는 이상한 도메인들이었지만, 1년 2만원 가량 내면 '저 주소는 내 것이다' 라는 자부심을 가질 수 있었기 때문에 오랫동안 가지고 있던 쓸데없는 취미생활 같은 것이었다. 홈페이지를 만지기 시작한 것은 국민학교 6학년 언저리부터. 그 당시에는 3~5MB 정도의 적은 용량으로 무료 호스팅을 하는 업체가 정말 많았고, 신비x, 네x앙, 라x코스 등 그 당시 대부분의 커뮤니티 사이트에서도 회원가입만 하면 무료로 메일 계정과 호스팅 계정을 나눠주었었다. 하이텔, 나우누리 등 PC통신을 이미 접하고 있었고, 그 당시의 '동아리', '게시판' 의 입구를 꾸미기 위해 ANSI 코드로 입장하는 화면을 꾸미던 나에게 소소한 홈페이지..

Medical Image processing 을 연구하는 과정에서, 파일 단위의 영상의 전체 주소를 복사해야 하는 경우가 상당히 많다. Windows 에서는, 폴더에서 그 폴더 주소를 복사하고, 파일명을 복사해서 붙여넣는 간단한 방법이 있었지만 MAC OSX 에서는 폴더 주소를 텍스트 형태로 보여주는 창이 없어, 매번 드래그 해서 터미널 창에 놓고, 그 주소를 다시 복사해서 가져오는 불편함이 있었다. 좀 편하게 할 수 있는 방법이 없을까 하다가, 기본으로 깔려 있는 Automator 앱을 이용해보기로 함. 바로 이 놈. 무작정 실행해 보자. 이런 놈이 실행된다. 내가 추가하고 싶은 건 서비스에 적합하므로, 여기서 서비스를 선택. 여러가지 중에서, 유틸리티 -> 클립보드로 복사 를 넓은 쪽으로 드래그 하면..