銀行と信用金庫の最大の違いは、組織が何のために利益を生み出し、誰のために存在するのかという根源的な目的にあります。 銀行は銀行法（昭和56年法律第59号）に基づいて設立された「株式会社」です。その本質は一般の上場企業と変わらず、出資者である株主の利益を最大化することが至上命題となります。より多くの配当を株主に還元し、企業価値（株価）を高めるため、利益率の高い大企業への融資や手数料ビジネス、グローバル展開へリソースを傾斜させる動機が常に働きます。預金や融資の相手方に地理的な制限はなく、全国・全世界の優良案件を自由に選別できる点も株式会社ならではの特徴です。 対照的に、信用金庫は信用金庫法（昭和26年法律第30号）に基づく「非営利法人（協同組織金融機関）」として位置づけられています。信用金庫法第1条には「国民大衆のために金融の円滑化を図り、その貯蓄の増強に資する」と明記されており、利益の追求そのものは目的ではありません。得られた利益は株主配当ではなく、金庫の財務基盤の強化（内部留保）や地域社会・会員へのサービス還元に充てられます。
この非営利組織としての性格を担保するため、信用金庫には厳格な営業地域制限と会員制度が課せられています。活動できるエリアは定款で定められた一定の地域（都道府県内の一部や市区町村単位）に限定され、融資を受けられる対象も原則として「営業地域内に住所・居所を持つ個人」または「従業員数300人以下、もしくは資本金9億円以下の事業者」という厳格な枠組みが設けられています。大企業へ巨額の融資を行って莫大な利益を得ることは法律上禁じられており、地域で集めた預金を地域の中小企業や住民へ還元する「地域内資金循環」が義務付けられているのです。
また、店頭でよく混同される存在に信用組合と信用金庫の違いがあります。信用金庫が「信用金庫法」に基づく地域金融機関であるのに対し、信用組合は「中小企業等協同組合法」および「協同組合による金融事業に関する法律」を根拠法とします。信用組合はさらに相互扶助の色合いが濃く、原則として「預金も融資も組合員に限る」という極めて限定的な運営形態を採っています。取引規模の面でも、信用金庫の方がより広く地域住民全般へ開かれている点が際立ちます。
