商標法には登録できない商標が列挙されており、列挙されているものに該当しない限り登録されることになります。その中でも拒絶の大部分を占めるのは、商標法3条と4条に基づくものです。
商標法第３条により登録できない商標
商標は、自己の商品・役務と他者の商品・役務とを区別するための標識であり、需要者から見て誰の商品役務かを区別できないものは登録は認められません。要するに自他商品識別機能を発揮しえない商標の登録は認めないということです。また、業界において既に使用された結果等により、識別力を失い、今後も誰もが使用を欲するような商標についても、一私人に独占させるのは好ましくないため、これも登録を認めないこととされています。これらが併せて3条に規定されております。
商品や役務の普通名称（1号）、業界において慣用されている商標（2号）については登録できません。特許庁の審査基準では、普通名称の例としては、商品「時計」について「時計」の商標、役務「美容」について「美容」の商標が挙げられており、慣用商標の例としては、商品「清酒」に「正宗」商標などが挙げられています。商品役務の普通名称そのものは本来的に自分の商品と他人の商品とを識別することができず、慣用商標についても使用の結果既に識別力がなくなっているため、登録することができないということです。
また、商品や役務の質・品質・原産地。形状などを表示する標章のみからなるものについては登録することができません（3号）。各都道府県名などを入れたものは原産地表示となりますし、商品「ベッド」に商標「スモールサイズ」のように商品形状を表した商標も登録することはできません。これらは、特定人に対して独占して使用させることは適切ではないため登録を拒絶しております。それ以外にもありふれた氏・名称（4号）も登録が認められず、たとえば、よくある個人の苗字（たとえば「鈴木」「田中」）は登録することができず、さらに、きわめて簡単かつありふれた標章のみからなる商標(5号)、たとえば○とかローマ字一字からなるようなものも登録できません。結局、このようなものを拒絶するのは自他商品識別機能がないか、特定私人に独占させることが好ましくないからです。もっとも、このような商標であっても、継続的に使用し続けることによって識別機能を発揮するに至った場合等には、例外的に登録されることもあります（3条2項）。
商標法第4条により登録できない商標
次に拒絶理由として大きいのが4条の拒絶です。その中でも特に多いのが4条1項11号（先願先登録と同一類似）と16号（品質誤認）です。
11号では、先に出願登録された商標と同じ商標や類似する商標は登録できないことが規定されています。商標登録は、先願主義を採用しており先に出願した者に優先権があるというルールです。既に登録されたものと同一類似のものを後で登録を認めれば、先願権利者の独占排他権を阻害するとともに、需要者から見れば、先の権利者の商品と後の権利者の商品と区別できなくなり出所混同してしまうおそれがあるため登録を認めません。もっとも、商標が同じであっても、商品・サービスが全く違うような場合には、出所が混同しないため、登録されます。11号で問題となるのは、やはり商標の類否、すなわち、先願商標と後願商標が似ているか否かという点です。この判断は別途「商標の類否」において説明しております。
16号の品質誤認については、3条１項3号（商品の品質等を表示）とセットで拒絶理由が打たれることが多いです。たとえば、商品｢パン｣に商標｢チョコレート｣を認めれば、需要者から見ると、当該商標が商品「チョコレートの入っていないパン」に使用されるとチョコ入りパンであると間違えるおそれがあるため16号で拒絶し、商品「チョコレート入りのパン」に使用すると商品の質を表すものとして3条1項3号で拒絶します。16号が単独で打たれるケースとしては商標が品質表示を一部に含んでいるケースです（この場合、品質表示のみからなるものでないため3条拒絶とはならない。）
その他、未登録であるもののよく知られた商標（周知商標・著名商標）や外国著名商標と同一類似の商標なども出所の混同を生じるおそれがあるため、一定要件下で登録できません。その他、国際信義の問題から登録を政策的に、また、知的財産に関する条約順守のために登録が認められてないものが多数あります。
商標の類否の判断手法
商標の類似は、前述のとおり商標登録の際に類似する先行登録商標等が存在する場合（4条1項11号違反）にでてくる問題です。商標の類似か否かは、原則として、商標が有する「外観」「称呼」「観念」という要素を比較検討し、さら取引の実情を考慮した上で、これらを総合して商標が似ているか否かを判断します。「外観」は商標の見た目であり、「称呼」は商標の読み方、「観念」は、商標から生じるイメージです。
審査では、外観、称呼、観念のいずれか一つでも同一類似の関係にあると拒絶理由が来るのが通常です。もっとも、商標の類否はあくまで総合判断で決せられるものです。現に、最高裁判例では、これら三要素（外観、称呼、観念）は商標の類否の一応の基準にすぎず、三点のうちその一において類似するものでも，他の二点において著しく相違することその他取引の実情等によって，なんら商品の出所に誤認混同をきたすおそれの認めがたいものについては，これを類似する商標とすべきではないと述べています。他方で外観称呼観念のいずれも相違するものの出所混同が生じるおそれがあるとして類似すると判断した例もあります。
類否に関する裁判例、最高裁判例なども出て判断手法自体はおよそ確立されていますが、実際の判断にあたっては、結局のところ双方の間で出所混同が生じるか否かという点が重要であり、それを判断するために取引の実情を十分に考慮し、外観、称呼、観念という一応便利な基準を用いて比較検討するという方式で実務上は動いています。