NEXUS AI Studio (Korean)

Nexus AI

Version 25

English · Français · 日本語 · 한국어

브라우저 체험판 열기 · 전체 애플리케이션 다운로드 · README

맞춤형 WebGPU 또는 Nexus.cpp 추론 엔진으로 지원 모델을 사용하는 로컬 AI 채팅 작업 공간입니다.

브라우저 체험판

체험판을 열고 Models & settings에서 GPU 프로필과 메모리 용량을 설정한 다음 로컬 GGUF 모델을 선택하여 불러오면 채팅을 시험할 수 있습니다. 모델은 포함되어 있지 않습니다. WebGPU 엔진이 아키텍처, 텐서 구조, 양자화 및 토크나이저를 검사합니다. 작동하는 WebGPU 어댑터와 충분한 메모리가 필요합니다. GPU 프로필 선택은 호환성을 입증하거나 남은 VRAM을 측정하지 않습니다. RX 7900 XT와 XTX 설정은 공칭 용량인 20 GB와 24 GB입니다.

단일 HTML에 인터페이스, 추론 코드, 토크나이저 및 대화 템플릿 라이브러리를 포함하여 Python, 설치 또는 빌드 없이 온라인 평가를 시작할 수 있습니다. 모델 선택과 로딩에는 추가 시간이 필요합니다. 체험판은 모델 데이터를 업로드하거나 로컬 서버를 사용하지 않으며 CPU 추론으로 전환하지 않습니다. 네이티브 Nexus.cpp, 온라인 서비스, 음성, 카메라 및 교사 기능은 포함하지 않습니다.

전체 애플리케이션 및 기술적 기여

전체 앱은 별도의 브라우저 및 네이티브 엔진에 모델 검사, 대화 상태 제어와 확인 가능한 진단 정보를 통합합니다. 네이티브 프로토콜 3은 Stop, New Chat, 접두사 캐시 및 샘플링 설정을 제공합니다. 이 기능을 사용하려면 네이티브 실행 파일을 다시 빌드해야 합니다. 네이티브 배치는 단계당 토큰 하나이며 네이티브 Flash Attention과 저정밀 KV 캐시는 구현되지 않았습니다.

전체 패키지를 다운로드하고 번호가 붙은 데이터 파일, 매니페스트, 설치 프로그램과 폴더 구성을 유지하세요. Install_Nexus_AI.py는 CPython 3.10 이상이 필요하며 기록된 Linux 검사는 3.12.14를 사용했습니다. Nexus AI는 PyTorch 백엔드를 사용하지 않습니다. 전체 앱은 로컬 서비스가 필요합니다. Nexus.cpp의 Radeon 가속에는 호환 실행 파일과 적절한 컴파일러/HIP/드라이버 구성이 필요합니다. 선택적 데스크톱 창은 pywebview>=5,<7을 사용합니다.

검증 및 이용 조건

브라우저 패키징은 네트워크 통신 없이 시작하는 스크립트 검사를 통과했습니다. 이는 전체 모델의 GPU 품질이나 성능 검증이 아닙니다. 유한하고 일정하지 않은 로짓 검사는 기본 준비 상태 확인에 불과합니다. Windows/Radeon 성능이나 모든 모델과의 호환성을 보장하지 않습니다. 브라우저 개정 번호는 v25-browser-r1입니다. 네이티브 버전 25 패키지, Candidate25 경로와 해시는 변경하지 않았으며 Candidate24도 롤백용으로 유지합니다.

새 브라우저 패키징을 포함한 Nexus 소유 자료는 개인적 이용과 내부 상업적 테스트 및 평가에 사용할 수 있습니다. 배포, 수정, 운영 환경 배포와 그 밖의 상업적 이용에는 명시적인 서면 동의가 필요합니다. 제3자 라이선스와 이미 부여된 권리는 변경되지 않습니다.

Rich Dunbar / Nexus Emerging Technology. License · Evaluation permission (English).

과거 문서 · 10월 9~10일 원문

아래 원문은 프로젝트 이력이며 현재 설치, 실행 환경 또는 라이선스 안내가 아닙니다. 위의 버전 25 설명과 연결된 문서를 사용하세요.

NEXUS AI Studio

수백 차례의 만들기–측정–학습을 통해 다듬어 온 로컬 AI

Rich Dunbar가 AI 코딩 지원을 활용해 개발했습니다.
NEXUS AI는 수백 차례의 반복을 거치며 발전했습니다. 구현하고, 테스트하고, 스크린샷과 진단 정보를 수집하고, 실패에서 배우며, 사용자 피드백을 바탕으로 애플리케이션을 개선했습니다.

브라우저 기반 추론 · 선택형 음성 및 표정 모듈 · 검증 절차를 거치는 선호 학습 · 퍼플렉서티 평가

---

1. NEXUS AI를 만든 이유

저는 제 하드웨어에서 실행하고 제 작업 흐름에 맞게 조정할 수 있는 어시스턴트를 원했습니다.

개발은 LM Studio에서 시작했고, 이후 자체 그래픽 인터페이스를 거쳐 자체 브라우저 기반 추론 엔진으로 이어졌습니다. 별도로 설치하는 AI 애플리케이션에 대한 의존도와 제가 겪었던 배포상의 제약도 줄이고 싶었습니다.

LM Studio는 그 출발점의 일부로서 기여를 인정받아야 합니다. 로컬 모델 도구와 API를 제공하며, 현재 NEXUS의 로컬 런타임은 별도의 구현입니다. LM Studio 개발자 문서

제한 사항을 구분해서 이해하기

배포 규칙은 조직, 제품, 버전에 따라 다릅니다. 다음 세 가지는 서로 구분해야 합니다.

• LM Studio: 자체 약관이 있는 데스크톱 애플리케이션
• llama.cpp: MIT 라이선스로 배포되는 추론 소프트웨어
• Meta Llama: 가중치에 별도의 모델별 약관이 적용되는 모델 제품군

LM Studio는 2025년 7월 상업적 이용을 위해 별도로 연락해야 한다는 요건을 폐지했습니다. 제 개발 이력이 과거 요건이 여전히 적용된다거나 모든 조직이 이러한 도구를 금지한다는 주장으로 해석되어서는 안 됩니다. LM Studio 발표 · llama.cpp 라이선스 · Llama 3.3 라이선스 예시

실행 파일 패키징에서 HTML로

제 작업 흐름에서는 데스크톱 실행 파일을 배포할 때 서명과 보안 경고가 번거로움을 만들었습니다. HTML로 옮기면서 인터페이스를 더 쉽게 수정할 수 있었고, 별도의 Windows 실행 파일을 배포할 필요도 줄었습니다.

Windows SmartScreen은 애플리케이션과 게시자의 평판을 고려합니다. 서명했다고 해서 새 릴리스에 경고가 표시되지 않는다는 보장은 없습니다. 브라우저용으로 패키징했다고 해서 조직의 승인이 자동으로 확보되거나 보안 정책이 면제되는 것도 아닙니다. Microsoft SmartScreen 문서

---

2. 프롬프트 한 번이 아닌 수백 차례의 반복

저는 여러 파일로 나뉜 구현에서 시작했습니다. 제가 설명한 개발 과정에 따르면 파일 수는 수백 개까지 늘어났습니다. AI의 도움을 받아 편집하는 제 작업 흐름에서는 모놀리식 애플리케이션 구조가 더 빠르게 작업하고 변경 사항을 조율하기 쉬웠습니다.

이는 이 프로젝트에 맞춘 개발상의 선택이며, 단일 파일 소프트웨어가 언제나 더 빠르거나 더 낫다는 주장은 아닙니다.

flowchart LR
    A["범위를 정한 변경 사항 구현"] --> B["테스트 및 측정"]
    B --> C["스크린샷과 진단 정보 검토"]
    C --> D["근거와 피드백에서 학습"]
    D --> A
    B --> E["회귀 검사"]
    E --> F["동작하는 MVP"]
    F --> D

    style A fill:#123456,stroke:#38bdf8,color:#ffffff
    style B fill:#164e63,stroke:#22d3ee,color:#ffffff
    style D fill:#312e81,stroke:#a5b4fc,color:#ffffff
    style F fill:#14532d,stroke:#4ade80,color:#ffffff

Loading

AI는 구현과 디버깅을 도왔습니다. 저는 방향을 정하고, 작업 흐름을 실행하고, 결과를 바탕으로 다음 수정 방향을 결정했습니다.

동작하는 **최소 기능 제품(MVP)**은 실제로 테스트할 수 있는 대상을 만듭니다. 그다음에는 더 명확한 조작 요소, 더 나은 진단 정보, 신뢰할 수 있는 저장, 호환성 검사, 피드백을 반영한 변경으로 개선을 이어 갑니다.

여기서 “모놀리식”이 의미하는 것

주요 인터페이스와 애플리케이션 로직은 HTML, CSS, JavaScript를 사용하는 하나의 HTML 파일로 함께 제공됩니다.

전체 오프라인 패키지에는 여전히 별도의 모델 가중치, 런타임 리소스, 워커 리소스가 포함됩니다. HTML 진입점이 하나라는 것이 모든 신경망 모델이 그 파일 안에 내장되어 있다는 뜻은 아닙니다.

이 방식에는 파일 크기 증가, 코드 탐색의 어려움, 체계적인 테스트의 필요성이라는 대가가 따릅니다. AI의 컨텍스트 한도도 여전히 적용됩니다.

---

3. 현재 애플리케이션 아키텍처

검토한 로컬 언어 모델 런타임은 자체 JavaScript, WebGPU, WGSL 코드를 사용합니다. 일반적인 로컬 추론 경로에는 LM Studio나 llama.cpp가 필요하지 않습니다.

선택적으로 사용하는 온라인 API 백엔드는 별개입니다. 브라우저 출처 요건을 충족하기 위해 로컬 정적 파일 서버가 필요할 수 있지만, 이는 LLM 서버를 요구하는 것과 다릅니다.

flowchart TD
    U["사용자 인터페이스"] --> L["로컬 WebGPU LLM 런타임"]
    U --> R["메모리와 검색"]
    U --> V["선택형 표정 모듈"]
    U --> S["별도의 음성 모듈"]
    L --> A["선택형 출력 헤드 어댑터"]
    A --> E["별도 데이터 평가 및 활성화 통과 조건"]
    V --> C["선택적으로 사용하는 신중한 어조 조정 단서"]
    C --> L

    style L fill:#123456,stroke:#38bdf8,color:#ffffff
    style V fill:#312e81,stroke:#a5b4fc,color:#ffffff
    style S fill:#164e63,stroke:#22d3ee,color:#ffffff
    style E fill:#14532d,stroke:#4ade80,color:#ffffff

Loading

메모리, 검색, 프롬프트 사용자 지정은 모델 가중치를 바꾸지 않고도 응답을 바꿀 수 있습니다. 실제 어댑터 학습은 이와 구분되는 별도의 경로입니다.

---

4. 어떤 모델의 지원이 구현되어 있나요?

지원이 구현되었다는 것과 전체 하드웨어 검증을 마쳤다는 것은 다릅니다. 사용 가능 여부는 정확한 아키텍처, 텐서 배치, 토크나이저, 채팅 템플릿, 사용 가능한 메모리에 따라 결정됩니다.

제품군 또는 프로필	구현된 범위	근거의 한계
SmolLM / SmolLM2	기본형과 Instruct 프로필을 포함한 제한된 GGUF 밀집 모델 경로	과거 실제 모델 수치 검사는 특정 SmolLM2-135M F16 및 Q8 파일을 대상으로 했으며, 다른 크기는 완전히 검증되지 않음
Mistral-7B-v0.3	검토된 기본 텍스트 완성 프로필	토크나이저 및 축소된 수치 검사
Mistral-Small-3.2-24B-Instruct-2506	검토된 텍스트 프로필	헤더, 토크나이저, 축소 그래프 검사이며, 전체 24B 실행은 없음
Ministral-3-14B-Reasoning-2512	검토된 추론형 텍스트 프로필	축소된 수치 검사, 템플릿 검사, 회전 위치 인코딩 검사
Qwen2 / Qwen2.5 / Qwen3	제한된 밀집 텍스트 모델 경로	모든 변형이나 크기와의 호환성을 입증하지 않음
Gemma 3	별도 텍스트 그래프	실제 헤더·토크나이저 검토와 합성 수치 검사이며, 전체 27B 출력 검증은 없음
GPT-oss-20B	자체 전문가 혼합 그래프	합성 테스트이며, 전체 20B 하드웨어 실행은 없음
GPT-oss-120B	향후 하드웨어를 전제로 한 명시적 사용 제한	명시된 20 GiB GPU / 32 GiB RAM 환경에서는 검증되지 않음
Qwen2.5-VL-7B	대응하는 로컬 비전 보조 구성 요소를 사용하는 특정 텍스트·정지 이미지 프로필	축소된 합성 테스트이며, 전체 7B 이미지 조건부 실행 검증은 없음
Custom LittleBit	지원되는 패킹된 인수 형식	정확한 메타데이터와 인코딩 필요

GGUF는 컨테이너이며, 보편적인 호환성을 보장하지 않습니다. 임의의 아키텍처, 분할 GGUF, 지원되지 않는 양자화 배치, 일반적인 PyTorch/Safetensors 불러오기는 검토한 로더의 지원 범위 밖입니다.

원본 모델의 기능이 애플리케이션 기능으로 자동 제공되는 것도 아닙니다. 예를 들어 이 빌드에서 일반적으로 할당되는 컨텍스트의 상한은 4,096토큰입니다.

모델 연구 및 출처: SmolLM2 · Gemma 3 · Qwen2.5-VL · GPT-oss 모델 카드

---

5. 비전: 한계를 고려한 표정 인지형 상호작용

현재 카메라 모듈은 얼굴 검출과 얼굴 표정 분류를 수행하며, 신원 인식은 수행하지 않습니다.

사용하는 구성 요소는 다음과 같습니다.

• 얼굴 검출과 특징점 추출을 위한 YuNet
• 표정 분류를 위한 MobileFaceNet 백본의 ProgressiveTeacherFER
• 별도의 단일 스레드 WASM CPU 워커에서 실행되는 ONNX Runtime Web

이는 언어 모델의 WebGPU 엔진과 별개입니다.

분류기에는 angry, disgust, fearful, happy, neutral, sad, surprised라는 일곱 범주가 있습니다. 인터페이스는 “슬픈 표정과 유사” 또는 **“놀란 표정과 유사”**처럼 잠정적인 레이블을 표시합니다. 카메라에서 도출하는 “excited” 범주는 없습니다.

품질 검사, 신뢰도 점수 임계값, 반복 추정, 5초 후 만료 처리는 근거가 부적절할 때 애플리케이션이 판단을 유보하도록 돕습니다. 이러한 휴리스틱이 사람의 감정에 대해 보정된 정확성을 보장하는 것은 아닙니다.

응답에 어떤 영향을 줄 수 있나요?

명시적 동의를 받고 기본적으로 꺼져 있는 선택형 로컬 채팅 설정을 활성화하면, 최근 표정 추정값을 신중하게 다루도록 하는 단서를 시스템 프롬프트에 추가할 수 있습니다.

이 단서는 어시스턴트에 다음과 같이 지시합니다.

• 추정값을 불확실한 것으로 취급하기
• 사용자가 실제로 한 말을 우선하기
• 도움이 될 경우 어조를 부드럽게 조정하기
• 단정하지 말고 질문하기
• 신원, 의도, 진단, 위험을 추론하지 않기

사용자가 별도로 선택해 직접 보고한 기분이 우선하며, 여기에는 명시적인 어조 규칙이 적용됩니다.

저는 이를 정서 관련 단서를 고려하도록 프로그래밍된 응답 조정이라고 설명합니다. 시스템이 내면의 감정을 이해하거나, 심리학적으로 검증된 의미의 감성 지능을 갖췄다는 근거는 아닙니다.

정서 컴퓨팅은 관련 연구 배경을 제공합니다. 한편 얼굴 표정 연구는 얼굴 움직임을 감정과 일대일로 대응하는 신뢰할 만한 해석으로 취급하지 않도록 경고합니다. Picard: Affective Computing—Challenges · Barrett 외: Emotional Expressions Reconsidered

카메라에서 도출된 맥락은 어댑터 학습용 자동 수집에서 제외됩니다. 표정 기능은 얼굴 이미지 모음이나 표정 이력을 의도적으로 보관하지 않습니다. 별도로 활성화한 온라인 서비스에는 각자의 데이터 흐름이 있습니다.

---

6. 음성: 출력과 입력은 별개입니다

로컬 음성 출력

전체 패키지에는 Kokoro-82M ONNX Q8 리소스, Bella 및 Fenrir 음성, 영어 음소 변환기·사전, ONNX Runtime 워커가 포함됩니다.

포함된 팩을 브라우저 저장소로 가져온 뒤에는 이 경로에서 음성을 로컬로 합성합니다. 통합된 팩은 영어 전용이며, 이 위키를 번역한다고 해서 음성 지원 언어가 추가되는 것은 아닙니다. Kokoro 모델 카드

음성 입력

음성 인식 모델은 번들로 제공되지 않습니다.

엄격한 오프라인 인식을 사용하려면 호환되는 브라우저의 온디바이스 인식 기능과 미리 설치된 언어 팩이 필요합니다. 사용할 수 없으면 알리지 않고 클라우드 인식으로 전환하는 대신 실패로 처리합니다.

엄격한 오프라인 설정을 끄면 브라우저 인식이나 별도로 설정한 API가 온라인 서비스를 사용할 수 있습니다.

음성 출력이 오프라인이라고 해서 음성 입력도 자동으로 오프라인이 되는 것은 아닙니다.

---

7. 승인된 상호작용에서 학습하기

현재 애플리케이션에는 실제 출력 헤드의 LoRA 방식 적응 학습이 포함되어 있습니다.

기반 GGUF, 트랜스포머 블록, 입력 임베딩은 고정된 상태로 유지됩니다. 학습 가능한 저랭크 행렬이 출력 로짓을 수정합니다. 가중치가 고정된 순전파 연산은 WebGPU를 사용하며, 어댑터의 그래디언트 계산과 옵티마이저는 CPU에서 JavaScript로 실행됩니다.

학습 경로에는 다음이 포함됩니다.

• 승인된 선호·비선호 답변을 사용하는 DPO 방식 선호 최적화
• 승인된 긍정 예시 답변을 사용하는 교차 엔트로피 학습
• 검토를 거친 교사 모델 생성 말뭉치를 사용하는 별도 작업 흐름

LoRA는 적응 학습 메커니즘을 설명합니다. DPO는 선호 학습 목표를 설명합니다. 어느 쪽도 모든 상호작용을 강화학습 업데이트라고 부를 근거가 되지는 않습니다. 이 빌드에서 PPO 기반 온라인 RLHF 루프가 구현되었다고 입증된 것은 아닙니다. LoRA · Direct Preference Optimization

메시지마다 자동으로 성장하는 대신, 통제된 적응 학습

Learning 인터페이스에는 학습, 평가, 활성화 조작 요소가 있습니다. 승인된 적격 데이터와 검증된 지원 모델이 준비되어 있으면 End Session에서도 선택적 학습을 시도할 수 있습니다.

새 어댑터를 활성화하려면 학습에 사용하지 않은 별도 데이터 평가와 회귀 검사를 통과해야 합니다. 사용자는 학습 없이 종료할 수 있으며, 실패하면 이전 어댑터가 유지됩니다.

체크포인트는 모델 및 런타임 식별 정보에 연결됩니다. 카메라의 영향을 받은 맥락과 이미지에 대한 명시적 질문의 맥락은 자동 수집에서 제외됩니다.

“상호작용할수록 모델이 성장한다”는 표현은 승인된 예시와 선택적 어댑터 업데이트가 시간이 지나며 축적된다는 뜻으로 이해하는 것이 가장 정확합니다. 기반 모델의 파라미터 수가 늘어나는 것은 아니며, 개선도 보장되지 않습니다.

검색 기반 메모리는 이와는 또 다른 메커니즘입니다. 가중치를 재학습하지 않고 맥락을 제공합니다. Retrieval-Augmented Generation

---

8. 퍼플렉서티로 변화 측정하기

애플리케이션은 티처 포싱(teacher forcing) 방식의 다음 토큰 점수 산출을 구현하며, 다음을 계산합니다.

퍼플렉서티 = exp(총 음의 로그 우도 ÷ 점수를 산출한 토큰 수).

텍스트, 토큰화, 모델, 런타임, 어댑터, 컨텍스트 설정을 포함한 평가 식별 정보를 추적합니다. 의미 있는 전후 비교에는 동일한 평가 절차가 필요합니다.

이는 호환되는 어댑터의 영향을 평가하는 데 도움이 될 수 있습니다. 사실적 정확성, 추론 능력, 감정 이해, 전반적인 지능을 직접 측정하는 지표는 아닙니다.

학습 자료에서 점수가 낮아지는 것은 암기를 반영할 수 있습니다. 실제로 학습에 사용하지 않은 별도 데이터와 작업별 평가도 함께 사용해야 합니다.

---

9. 테스트로 확인한 범위

제 개발 환경에서의 경험

저는 AMD Radeon RX 7900 XT, Windows 11, Microsoft Edge 환경에서 NEXUS 개발 빌드를 테스트했다고 보고합니다.

이는 제 개발 경험입니다. 지원되는 모든 백엔드나 정확히 최신 빌드에 대해 독립적으로 재현된 하드웨어 벤치마크로 제시해서는 안 됩니다.

코드와 소프트웨어 근거

검토한 빌드에는 동작하는 선호 학습 수식, 옵티마이저 업데이트, 모델 식별 검사, 퍼플렉서티 평가기가 포함되어 있습니다. 특정 항목에 집중한 합성 테스트에서는 그래디언트, 고정된 데이터 영역, 평가 구간의 포함 범위를 검사했습니다.

과거 실제 SmolLM2 검사에서는 소프트웨어 CPU/Vulkan 환경에서 제한된 접두부 토큰 위치를 사용했습니다. 표정 실행 기록은 모델 실행과 얼굴이 아닌 입력에 대한 판단 유보를 다루며, 음성 실행 기록은 합성을 다룹니다. 실제 얼굴에 대한 정확성, 브라우저·장치 전반의 신뢰성, 실제 Radeon 하드웨어 성능을 입증하지는 않습니다.

학술 논문은 방법을 설명합니다. NEXUS AI의 구현을 인증하거나 벤치마크를 재현하는 자료는 아닙니다.

설명의 기준 버전

이 페이지는 2026년 10월 9일 패키징되고 2026년 10월 10일 검토된 애플리케이션을 설명합니다.

애플리케이션 SHA-256:

1a1d6eb77958a8b276607843eb446a391d887c65612c5acfabb301ac7daca465

독립형 Nexus Adapter Studio, Foundry, Recovery 애플리케이션의 기능은 통합 여부가 별도로 검증되지 않는 한 이 빌드의 기능으로 설명해서는 안 됩니다.

---

10. 출처, 라이선스, 기여

제가 기여한 부분은 NEXUS 애플리케이션, 자체 통합, 인터페이스, 런타임 작업, 반복적인 개발 작업 흐름입니다. 모델 제작자와 원본 구성 요소의 기여자에게는 각자의 작업에 대한 공로가 있습니다.

관련 의존 요소에는 다음이 포함됩니다.

• Kokoro: hexgrad, ONNX 변환은 ONNX Community/Xenova
• YuNet: Shiqi Yu 및 기여자
• ProgressiveTeacherFER: Jing Jiang, ONNX 구현에 대한 Chengrui Wang의 기여 표시 유지
• ONNX Runtime: Microsoft 및 기여자
• HeadTTS 언어 모듈: Mika Suominen
• CMU 발음 사전: Carnegie Mellon University

검토한 애플리케이션 패키지는 UNLICENSED로 선언되어 있습니다. 오픈 소스 의존 요소를 사용한다고 해서 애플리케이션 전체에 오픈 소스 라이선스가 자동으로 부여되는 것은 아닙니다. 재배포나 상업적 이용이 허용된다고 주장하기 전에 저장소의 실제 라이선스를 확인해야 합니다.

표정 패키지는 원본의 선언 사항을 유지하고 있지만, 정확한 체크포인트 라이선스와 학습 데이터 출처에 관한 문제는 아직 해결되지 않았습니다. 제한 없는 사용이 가능하다고 주장하기 전에 이를 해결해야 합니다.

만들고. 측정하고. 배우고. 검증하고. 다듬으세요.

Rich Dunbar · NEXUS Emerging Technology