একটি অপারেটিং সিস্টেম সাধারণত চারটি প্রধান অংশ নিয়ে গঠিত: কার্নেল (Kernel), ইউজার ইন্টারফেস (User Interface), ফাইল ম্যানেজমেন্ট (File Management), এবং প্রসেস ম্যানেজমেন্ট (Process Management)। কার্নেল হলো মূল অংশ যা হার্ডওয়্যার ও অন্যান্য সফটওয়্যারের মধ্যে সংযোগ স্থাপন করে, ইউজার ইন্টারফেস ব্যবহারকারীকে সিস্টেমের সাথে যোগাযোগের সুযোগ দেয়, ফাইল ম্যানেজমেন্ট ডেটা সংগঠিত করে এবং প্রসেস ম্যানেজমেন্ট প্রোগ্রাম বা প্রসেসগুলো পরিচালনা করে। 
অপারেটিং সিস্টেমের প্রধান অংশগুলো হলো:

• কার্নেল (Kernel): এটি অপারেটিং সিস্টেমের মূল অংশ। কার্নেল হার্ডওয়্যার এবং সফটওয়্যারের মধ্যে যোগাযোগ স্থাপন করে, মেমরি, প্রসেসর এবং অন্যান্য সিস্টেম রিসোর্স পরিচালনা করে। 
• ইউজার ইন্টারফেস (User Interface): ব্যবহারকারী অপারেটিং সিস্টেমের সাথে যেভাবে যোগাযোগ করে, সেটিই ইউজার ইন্টারফেস। এটি গ্রাফিক্যাল ইউজার ইন্টারফেস (GUI) বা কমান্ড-লাইন ইন্টারফেস (CLI) হতে পারে। 
• ফাইল ম্যানেজমেন্ট (File Management): এই অংশটি কম্পিউটারের ফাইল এবং ডিরেক্টরিগুলো পরিচালনা করে। এটি ফাইল তৈরি, সংরক্ষণ, পুনরুদ্ধার এবং ফাইল সম্পর্কিত অন্যান্য ক্রিয়াকলাপ নিয়ন্ত্রণ করে। 
• প্রসেস ম্যানেজমেন্ট (Process Management): অপারেটিং সিস্টেমের এই অংশটি বিভিন্ন প্রোগ্রাম বা প্রসেস তৈরি, পরিচালনা এবং বন্ধ করার কাজ করে। 

এছাড়াও, অপারেটিং সিস্টেমকে বিভিন্ন অংশে ভাগ করা যায়, যেমন মেমরি ম্যানেজমেন্ট, ডিভাইস ম্যানেজমেন্ট ইত্যাদি, যা সামগ্রিকভাবে সিস্টেমের কার্যকারিতা নিশ্চিত করে।