פרשת עיר הנידחת מציפה קשיים מוסריים, ובמיוחד הדרישה של התורה לענישה קולקטיבית כלפי כל תושבי העיר. אולם, המעיין במקורות חז"ל יראה מגמה מובהקת של צמצום אפשרויות היישום של הלכה זו למעשה. וזו לשון המשנה סנהדרין (י, ד): "אנשי עיר הנדחת אין להם חלק לעולם הבא… ואינן נהרגים עד שיהיו מדיחיה מאותה העיר, ומאותו השבט, ועד שיודח רובה ועד שידיחום אנשים".
חז"ל הלכו צעד נוסף, ואף הפקיעו את היישום המעשי של השמדת עיר הנידחת: "עיר הנדחת לא הייתה ולא עתידה להיות ולמה נכתבה לומר דרוש וקבל שכר". (תוספתא סנהדרין יד, א). בכתובים ניתן לגלות פער שקיים בין קיום המצווה לבין הנזק שעלול להיגרם למקיים המצווה. מצד אחד, התורה מצווה בלשון נחרצת שאינה משתמעת לשני פנים: "הַכֵּה תַכֶּה אֶת יֹשְׁבֵי הָעִיר הַהִוא לְפִי חָרֶב… "; מצד שני, התורה חוששת מהנזק שעלול להתרחש כתוצאה מקיומה של מצווה זו. הקב"ה מבטיח שנפשם של מקיימי המצווה לא תיפגם: "וְנָתַן לְךָ רַחֲמִים וְרִחַמְךָ".
כך כותב רבי חיים בן עטר: "ונתן לך רחמים ורחמך – כוונת מאמר זה כאן לפי שציווה על עיר הנידחת, שיהרגו כל העיר לפי חרב ואפילו בהמתם מעשה הזה יוליד טבע האכזריות בלב האדם… לזה אמר להם הבטחה שיתן להם ה' רחמים… לבטל כח האכזריות שנולד בהם מכח המעשה". הקב"ה מבטיח שאעפ"י שקיום המצווה כרוך במעשים אכזריים, לא תהיה פגיעה במי שישתתף במשימה.
בדומה לכך כותב הנצי"ב מוולוז'ין: "מעשה עיר הנידחת גורם שלוש רעות בישראל: אחת – שההורג נפש נעשה אכזר בטבע. והנה יחיד הנהרג בבית דין – כבר נבחר לזה שלוחי בית דין. אבל עיר שלמה, בעל כורחנו עלינו להרגיל כמה אנשים להרוג ולהיות אכזריים…".
לעיתים, נדרש אדם לבצע פעולות שהן בגדר הכרח או מצווה למען השגת מטרה נעלה. גם אם כוונתו של האדם לעשות מצווה וכל מעשיו הם לשם שמיים, עדיין הפעולות הן אכזריות ומשפיעות לרעה על נפשו. האפשרות היחידה שקיימת לצמצום נזקים אלו תלויה בטוהר הכוונות, ובהיעדר כל מעורבות אישית והנאה של המבצע מהמעשה האכזרי. דוגמה לכך היא השמדת עיר הנידחת שמתבצעת מכורח המציאות, וברור לכל שאין במעשה זה כל "התעלות רוחנית".

עם קום המדינה התרחש אירוע קשה ומורכב – "פרשת אלטלנה". בן-גוריון הורה להפגיז את ספינת האצ"ל מחשש למרד בסמכות השלטון, וזה גרם להרוגים ולפצועים. לאחר מכן הכריז בן-גוריון שהתותח שירה באלטלנה הוא תותח קדוש, שהרי באמצעות ההפגזה נמנע פילוג בעם. גם לשיטתו של בן-גוריון שהפעולה הייתה הכרחית, צריך לומר: אין תותחים קדושים, כשם שהמלחמה כנגד עיר הנידחת אינה מלחמה קדושה. היא צורך והכרח, ויש לייחל שאם נאלצה החברה להשמיד עיר נידחת, שלא ייגרם נזק נפשי למשתתפים במצווה זו.
בשנה האחרונה אנו נמצאים במערכה קשה בעזה. חיילי צה"ל נדרשים לעמוד במצבים מורכבים על מנת להגן על עצמם ועל אזרחי ישראל. אולם, מלחמה, צודקת ככל שתהיה, עלולה לפגוע בטבעו העדין של הלוחם.
ההבטחה האלוקית לגבי מחריבי עיר הנידחת כוחה יפה גם לחיילי צה"ל המסורים, המקדישים לילות כימים למען ביטחוננו ומתנהלים בצורה אחראית ומוסרית: "ונתן לך רחמים ורחמך".