WindowsサーバもLinuxサーバのどちらも、システムの基幹をなすサーバを構築出来ます。
サーバの用途としては、インターネットサービス用（Web、FTPなど）や、業務用（ファイルサーバ、認証サーバなど）などがあります。
まず、両者の最も大きな違いはオープンソースかクローズドソースかということ。つまりソースコードが公開されていて、誰もが自由にアクセス可能か否かということです。
Linuxはオープンソースであり、誰もが自由にソースコードにアクセスできます。そのため、世界中の開発者が自由にプログラムを変更できます。その結果、様々な目的に応じたプログラムを自由に開発出来たり、致命的な脆弱性に対する修正などが迅速に行えるというメリットがある反面、悪意のある開発者によりソースコードが悪用されるという恐れもあります。
Windowsはその逆で、Microsoftにより厳重にソースコードが管理され、自由に閲覧できない反面、ソースコードの悪用の可能性は限りなくゼロに近いと言えます。
また要求されるハードウェアスペックも違います。Linuxは基本的にはWindowsほど高いスペックのハードウェアを必要とせず、最新のPCでなくても十分動作します。これと無料であるという事実を併せると、発展途上国等まだまだPCが一般に高価で手の届きにくい地域であっても古いPCで十分動作するLinuxは彼らのIT利用について、非常に可能性を秘めているといえるでしょう。
大企業などでシステムを運用する場合は、Windowsサーバや有償のLinuxを導入します。
これは金額よりも保証を重視する為です。逆に中小企業や、個人システムなどでは無償のLinuxサーバを導入する方が多いです。

Windowsサーバの特徴

• Micorosoft社が作成したOS
• 有償
• クローズドソース
• 快適に動作させるにはある程度高いハードウェアスペックが必要
• クライアントのパソコンがWindows系の機器（Windows7や8など）が多く、それらとの親和性が高い

Linuxサーバの特徴

• Unix系のOSから派生していったサーバで、色々な種類（ディストリビューション：複数の会社・組織が各々開発したもの）があります。
• 基本無償（有償サポートもある）
• オープンソース
• Windowsほど高いスペックのハードウェアを必要とせず、最新のPCでなくても十分動作します。
• Windowsに比べて設定が分かりやすいですが、Linuxコマンドは初心者には分かり難い面もあります。