情報科学

情報科学のテーマは 5 個、記事は 25 本です。各テーマは第 1 章から順に読めるよう並べています。

機械学習の数学

大学生（理系）・社会人エンジニア／全 7 章のうち 7 本を公開

• なぜ機械学習に数学が必要か：学習を「損失の最小化」に書き直す回帰も分類も経験リスク最小化という一つの最適化問題に帰着することを示し、線形代数・微分積分・確率統計がその各段階でどう働くかを、最小二乗法と勾配降下法の完全な証明で確かめます。学部機械学習経験リスク最小化最小二乗法勾配降下法最尤推定約 35 分
• 線形回帰と最小二乗法：正規方程式を直交射影として読む二乗和誤差の最小化が正規方程式 X^T X w = X^T y に帰着することを代数と偏微分の両面から導出し、その解が観測ベクトルの列空間への直交射影であることを示す。ランク条件と数値的安定性まで扱う。学部線形回帰最小二乗法正規方程式直交射影約 60 分
• ロジスティック回帰：シグモイドと交差エントロピーを最尤推定から導く分類の出力を確率として扱うためにシグモイド関数とロジット（対数オッズ）を導入し、ベルヌーイ分布の最尤推定から交差エントロピー誤差を導出する。勾配とヘッセ行列を計算して凸性を示し、閉じた解が存在せず微分による数値最適化が要る理由を明らかにする。学部ロジスティック回帰シグモイド関数交差エントロピー最尤推定凸最適化約 41 分
• 勾配降下法：勾配はなぜ「最も急な坂」なのか本多変数テイラー展開とコーシー・シュワルツの不等式から勾配が最急降下方向であることを示し、学習率の許容範囲を降下補題で決め、二次関数の条件数と確率的勾配降下法の分散まで計算で追う。学部最適化勾配学習率確率的勾配降下法約 42 分
• ニューラルネットワークと逆伝播：連鎖律を計算グラフの上で逆向きに走らせる本ニューラルネットワークを線形変換と活性化関数の合成として定式化し、多変数の連鎖律から逆伝播を導出する。計算グラフ上の随伴変数の漸化式を証明し、勾配計算が順伝播の定数倍で済む理由を計算量と数値例で確かめる。学部ニューラルネットワーク逆伝播連鎖律計算グラフ自動微分約 30 分
• 主成分分析：分散最大化はなぜ固有値問題になるのか本データの分散が最大になる方向を探すという要請が標本共分散行列の固有値問題に帰着することを導出し、第 1 主成分が最大固有値の固有ベクトルであること、寄与率が保存される分散の割合に等しいことを証明します。学部主成分分析固有値問題次元削減共分散行列スペクトル定理約 50 分
• 確率論とベイズ統計：最尤推定・MAP 推定と正則化の正体本ベイズの定理から最尤推定と MAP 推定の違いを導き、L2 正則化がガウス事前分布、L1 がラプラス事前分布に対応することを証明し、ベイズ線形回帰で予測の不確実性を定量化する。学部ベイズ統計最尤推定MAP推定正則化不確実性約 49 分

アルゴリズムとデータ構造

大学生（情報系）・社会人エンジニア／全 7 章のうち 7 本を公開

• 計算量と O 記法：アルゴリズムの速さを入力サイズの関数で測る時間計算量・空間計算量を計算モデルから定義し、O・Ω・Θ 記法を関数の集合として厳密に述べる。増大度の階層を証明し、O(1) から O(2^n) までの各クラスが入力サイズの増大にどう耐えるかを定理と数値で比較する。学部計算量O記法漸近解析マスター定理約 30 分
• 基本的なデータ構造：配列・連結リスト・スタック・キュー配列と連結リストのメモリ配置の違いから検索・挿入・削除の計算量を導き、動的配列の償却 O(1) を証明する。スタックとキューを抽象データ型として定義し、リングバッファと 2 本のスタックによる実装を解析する。学部データ構造配列連結リスト償却計算量抽象データ型約 46 分
• ソートアルゴリズム：バブルソート・マージソート・クイックソートと「二乗の壁」バブルソートが二乗時間になる理由を転倒数で説明し、マージソートの分割統治が n log n を達成することを証明する。クイックソートの平均計算量と最悪計算量の差がピボットの選び方から生じる仕組みまで扱う。学部ソート分割統治法計算量クイックソート約 25 分
• 探索アルゴリズム：二分探索の O(log n) とハッシュ表の平均 O(1)本ソート済み配列に対する二分探索が O(log n) で終わる理由を不変条件と決定木の下界から示し、ハッシュ表がチェイン法とオープンアドレス法で平均 O(1) を実現する仕組みと、その「平均」の中身を明らかにする。学部二分探索ハッシュ表計算量衝突解決約 13 分
• グラフアルゴリズム：BFS・DFS・ダイクストラ法を正しさから理解する本グラフを隣接行列と隣接リストで表し、幅優先探索が最短の辺数を与えること、深さ優先探索が有向閉路を検出することを証明する。さらに非負重みの下でダイクストラ法の正当性を示し、優先度付きキューによる O(E log V) を導く。学部グラフ幅優先探索深さ優先探索ダイクストラ法最短経路約 43 分
• 動的計画法：部分問題を一度だけ解いて指数時間を多項式時間に変える本動的計画法を「部分問題の依存関係が DAG なら位相順に一度ずつ解けばよい」という原理として定式化し、フィボナッチ数列の指数時間再帰が O(n) になる仕組みと、0-1 ナップサック問題の漸化式・O(nW) 表計算・解の復元を証明付きで示す。学部動的計画法メモ化ナップサック問題最適部分構造漸化式約 43 分
• P≠NP 予想とは何か：多項式時間・証明書・帰着で計算の壁を測る本クラス P と NP を検証器の言葉で厳密に定義し、多項式時間帰着と NP 完全性から SAT・3SAT・独立集合の関係を証明する。P=NP なら暗号と最適化に何が起きるかまで具体的に示す。学部計算複雑性NP完全多項式時間帰着SAT約 64 分

コンピュータサイエンス基礎

大学生（理系）・社会人／全 3 章のうち 3 本を公開

• コンピュータアーキテクチャとCPUの構造：トランジスタから RISC-V までトランジスタのスイッチ動作から論理ゲート、加算器、クロック同期回路を積み上げ、五大装置とフォン・ノイマン型アーキテクチャ、CPU のデータパス、RISC-V の命令符号化までを証明と計算つきで追う。学部計算機アーキテクチャ論理回路CPUフォン・ノイマン型RISC-V約 33 分
• OS の役割：抽象化・スケジューリング・仮想記憶はなぜ必要かむき出しのハードウェアで何が困るのかから出発し、特権モードとシステムコール、CPU スケジューリング（SJF の最適性）、ページングと仮想記憶（多段ページテーブル・TLB・LRU のスタック性）、デッドロックの必要条件までを証明付きで解説する。学部オペレーティングシステムプロセススケジューリング仮想記憶ページング約 16 分
• プログラミング言語論：機械語から型システムとパラダイムまで機械語・アセンブリ・高級言語の階層を RISC-V の実際の命令符号化から確認し、小さな言語の操作的意味論のうえで進行定理と保存定理を証明したうえで、静的型付けと動的型付け、関数型とオブジェクト指向の設計原理を比較します。学部プログラミング言語型システムコンパイラ操作的意味論パラダイム約 36 分

ソフトウェア開発

大学生（理系）・社会人／全 5 章のうち 5 本を公開

• バージョン管理システム Git：Merkle DAG としての履歴と共同開発フローGit の内容アドレス格納庫とコミット DAG を定義し、ハッシュが履歴全体の完全性を保証すること、fast-forward の判定条件、3-way マージとマージベースが一意にならない場合を証明とともに示し、主要コマンドとプルリクエスト運用に結び付けます。学部バージョン管理Gitハッシュ関数有向非巡回グラフ共同開発約 45 分
• Docker と Kubernetes：コンテナはなぜ軽く、クラスタはなぜ自己修復するのか「私の環境では動く」問題を出発点に、名前空間と cgroup によるコンテナの実体、イメージのレイヤ構造とキャッシュの前置性、Kubernetes の宣言的 API と調整ループを、可用性・オートスケール・無停止更新の定量的な評価まで含めて積み上げる。学部DockerKubernetesコンテナオーケストレーション可用性約 46 分
• データベース設計の基礎：関係モデル・SQL・正規化を「事実の置き場所」から考えるテーブル・主キー・外部キーという関係モデルの語彙を定義し、SQL の基本操作を実データで追い、関数従属と属性閉包から第1〜第3正規形の必要性を証明付きで導く。無損失結合分解と NoSQL との使い分けまで扱う。学部リレーショナルデータベースSQL正規化関数従属NoSQL約 42 分
• クラウドコンピューティング：オンプレミスとの分岐点を数式で見る本IaaS・PaaS・SaaS の責任分界を NIST 定義から整理し、AWS・GCP・Azure の主要サービスを対応づける。さらに損益分岐利用率、待ち行列によるスケール台数、直列並列の可用性を計算で確かめる。学部クラウドIaaSスケーラビリティ可用性待ち行列約 12 分
• ネットワーク（TCP/IP）：URL を入力してからページが表示されるまで本OSI 参照モデルと TCP/IP の 4 階層を、カプセル化・IP アドレスと最長プレフィックス一致・TCP のウィンドウ制御という三つの軸で整理し、URL 入力から HTML が届くまでの往復時間を実際に見積もる。学部ネットワークTCP/IPHTTPDNSプロトコル階層約 37 分

AI時代の生存戦略

社会人（非専門家・エンジニア）／全 3 章のうち 3 本を公開

• AI時代のITエンジニアの生存戦略：自動化の上限を定量的に見積もるLLMによるコード生成が開発工程のどこを速くし、どこを速くしないのかを、アムダール則・生成検証サイクル・仕様の情報量下界・ライスの定理を使って定量的に分析し、何を学ぶべきかを導きます。学部ソフトウェア工学自動化アムダール則計算可能性課題設定約 30 分
• LLMとプログラミング：委譲の損益分岐点と「もっともらしい誤り」の見抜き方LLMを設計・実装・テスト・レビューに組み込む判断を、成功率と検証コストの比という一つの不等式に還元して整理する。得意・不得意が分かれる理由、タスク分割が効く理由、AIのもっともらしい誤りを検出する手順を数値例とともに示す。学部LLMソフトウェア開発コードレビューデバッグ約 15 分
• 数学を学び直す意義：AI を読み解く三つの言語LLM の内部で何が起きているかを、線形代数（埋め込みと低ランク近似）、微分積分（勾配降下法の収束と学習率）、確率統計（交差エントロピーとベイズ更新）の三つの言語で読み解き、学び直しの到達点と順序を示す。学部線形代数微分積分確率統計機械学習抽象化約 30 分