Зав’язка. Оповідач, французький учений-археолог, мандрує Андалусією в пошуках місця битви при Мунді. Поблизу Каченської рівнини він зустрічає Дона Хосе, якого розшукують солдати. Проявивши шляхетність, учений ділиться з розбійником їжею та попереджає про засідку, рятуючи йому життя. Пізніше в Кордові вчений зустрічає циганку Кармен, яка заманює його до себе, щоб пограбувати, але Хосе з’являється і випускає вченого, віддячивши за колишню допомогу.
Розвиток дії. Справжня історія починається у в'язниці, де засуджений до страти Хосе сповідається вченому. Він згадує, як був молодим єфрейтором в Альманнському кавалерійському полку в Севільї. Зустрівши Кармен після бійки на тютюновій фабриці, він піддався її маніпуляції (вона видала себе за басконку-дворянку) і допоміг їй втекти. За це Хосе потрапив у в'язницю та був розжалуваний у рядові. Це стало першим кроком до його соціального падіння.
Шлях злочину. Після виходу з гауптвахти Хосе застає Кармен із поручником свого полку. У стані афекту він убиває офіцера ножем і стає вигнанцем. Потрапивши до ватаги контрабандистів, Хосе вбиває в поєдинку законного чоловіка Кармен — потворного цигана Гарсію Кривого. Проте Кармен не стає його «нагородою». Її кохання до Хосе гасне, і вона захоплюється пікадором Лукасом, прямо заявляючи Хосе, що більше його не любить.
Кульмінація та Розв’язка. Хосе благає Кармен поїхати з ним до Америки, щоб почати чесне життя, але вона відмовляється, бо не хоче бути «власністю». В ущелині Хосе вимагає покори, але Кармен кидає йому в обличчя подарований перстень. Хосе двічі вдаряє її ножем. Вона вмирає мовчки. Герой ховає її в лісі, відчуваючи, що вбив і власну душу. Після всього він здається владі, просячи лише відслужити по ній месу. Новела завершується сухою науковою главою про звичаї циган.