전체 글

갤럭시북5 프로 내장 OS 분석

최근 갤럭시북5 프로를 샀다. 내 것은 아니기에 스펙은 따로 적지 않는다. 노트북을 키면 이런 화면이 나온다.하지만 순순히 윈도우를 설치하기에는 내장된 저 안내화면 표시용 OS를 그냥 지나칠 수 없었다. 켜면 잠깐 이런 화면이 나온다. 알 수 있는건 tinycore 기반의 OS라는 것이다. 놀랍게도 프리도스를 표방하면서 갤럭시북은 리눅스를 지원하지 않는다.물론 리눅스용 드라이버도 없지만, 시큐어 부트 프리셋조차 Windows Only로 고정 시켜놔서 순순히 리눅스를 설치하도록 허용해주지 않는다. 나는 윈도우를 깔기 전, 이 OS를 기어코 뜯어보기로 했으므로 systemrescue ISO를 ventoy에 넣어 잠깐 띄워보기로 했다.(참고로 갤럭시북 5의 무선 랜은 BE200을 사용하므로, USB에 들어 있..

MXFP8

FP8FP32는 메모리도 많이 먹고 무엇보다도 추론시 메모리에 올리고 쓰는 순간 대역폭 오버헤드가 발생함그래서 FP8처럼 기존 FP32 모델을 작게 양자화시켜서 메모리에 올림근데 이러면 정확도가 구려지니까 각 양자화된 가중치에 곱했을 때 FP32 원본 가중치와 유사한 "근삿값"을 얻을 수 있는 "스케일링 값"을 계산함그래서 FP32 원본만큼 정확하지는 않지만, 텐서코어 등의 GPU 칩셋 내부에서 처리하여 메모리 보틀넥을 줄임그런데 문제는 보통 AI 모델에는 수백개의 텐서가 있고 내부에 수백~수천만개의 파라미터가 있음. 스케일링 값은 이 텐서 단위로 계산됨.=> 즉, 텐서 내 수백만~수천만 개의 파라미터가 32비트 스케일 값 하나에 의존하는 구조라는 것MXFP8https://www.opencompute.o..

Persona Vectors + Style Modulation Heads

Paperhttps://arxiv.org/pdf/2507.21509 (Persona Vectors)https://arxiv.org/pdf/2603.13249 (Style Modulation Heads)Persona VectorsPersona Vectors는 페르소나의 특징을 표현하는 벡터.해당 Vector를 residual stream에 더해주면 프롬프트로 제어하지 않고도 원하는 페르소나 묘사 효과를 얻을 수 있음.Persona Vector를 더할때 h ← h + α·v로써 α를 조절하는 방식으로 steering 강도를 조정할 수 있음. 이것으로 스윗스팟을 찾으면 됨.하지만, Persona Vectors는 residual stream 전체를 건드림으로써 의도하지 않은 coherency degradatio..

Root Filesystem 손상과 복구

서론 몇 주전, 집에 있는 서버의 전원이 내려갔다. UPS의 전원 공급 선이 접촉 불량으로 전력 공급이 원활하지 못했기 때문이다. 물론 문제를 해결하고 전원을 다시 공급했지만, 개발 서버만 자동 복구에 실패했다. 처음에는 전원을 공급하지 못한 기간이 길었음을 의심했다. (약 1주일) 이는 보드에 내장되어 있던 CR2032 배터리가 방전되어 보드 내부에 있는 롬 플래시에 전원을 공급하지 못했을 수도 있기 때문이였다. 롬 플래시는 휘발성이므로 배터리를 탈착하는 행위를 통해 전원 공급을 해주지 못하면 데이터가 휘발되어 부트 프로파일이 날아가게 된다. 하지만, 실제로 들어가서 확인해보니 이야기가 달라졌다. 개발서버에 모니터를 연결하니 Emergency Shell이 나를 반겨주었다. dmesg 명령을 통해 원인을..

EMFILE: too many open files

발단 Next.js 기반 프로젝트를 Podman으로 빌드하다가 다음 오류가 발생하였다. 해결 방법 docker-compose.yml 파일에 존재하는 Service 트리에 다음 코드를 붙여넣는다. 부족하다면, 값을 더 올리면 된다. ulimits: nofile: soft: "65536" hard: "65536" build 명령으로 빌드하는 경우, --ulimit nofile=65536:65536 를 추가한다. 이는 run 명령에도 적용 할 수 있다. 원인 커널단에서 동작하는 ulimit은 프로세스의 자원 한도를 제한한다. 해결 방법에 적혀있듯이 soft와 hard 한도가 둘 다 적혀있는데, 이는 다음과 같다. Soft Limit: 새로운 프로그램을 생성하면 기본으로 적용되는 한도. Hard Limit: S..

소니캐스트 이어폰 벨런스 맞추기

최근에 이어폰을 다시 쓰게 되었는데 음악을 재생하자 한쪽 소리가 잘 안 나온다. 문제가 되었던 유닛은 왼쪽이었는데 오른쪽에 비해 소리가 현저히 작게 나왔다. 참고로 나는 지금 디렘 e3 이어폰을 사용 중이다. 단선이라면 소리가 아예 안 들려야 할 것인데 아예 안들리는 것도 아닌, 벨런스가 너무 이상하게 틀어져 있는 상태였다. 분명 마지막까지 소리 잘 나오는 걸 확인하고 걸어뒀는데 말이다. 결론부터 말하자면, 유닛 하우징에 있는 내부 압력을 조절하면 균형이 잡힌다. 보통 특정 유닛 하우징의 압력이 너무 높아 소리가 작게 나오는데, 이 경우는 해당 유닛 하우징 내부 압력을 낮춰야 한다. 내부 압력을 낮추는 방법은 여러 가지가 있다. 주사기 따위로 댐퍼 부분에 넣고 뽑아내거나, 댐퍼 부분을 입에 대고 빠는 행..