מי שהיה שר החוץ הישראלי. רבים חלקו על עמדותיו, אלא שהיום, כשמדיניות החוץ של ישראל מתנהלת (אם אפשר לקרוא לזה כך) על ידי ראש ממשלה גרוע, וסגנית שר שמיחית, שמנסה לשכנע שאלוהים הבטיח לה משהו, רבים היו מוכנים שמדינאי ודיפלומט ברמתו של אב אבן יהיה שר החוץ. ב-1950, בהיותו בן 35 בלבד, מונה לשגריר ישראל בארצות הברית, בעודו מחזיק גם בתפקיד השגריר באו"ם (בשני התפקידים החזיק עד קיץ 1959). ב-1952 מונה אבן לתפקיד סגן נשיא העצרת הכללית של האו"ם. (היו ימים......) בתפקידיו באו"ם ובוושינגטון עיצב אבא אבן את הפעילות הדיפלומטית ואת מערכת ההסברה של ישראל. בתקופתו הושג הסיוע הכלכלי הראשון של ארצות הברית לישראל, הוקם מפעל "הבונדס", וביוזמתו נוסד ארגון השדולה האמריקני למען ישראל, איפא"ק. בין השנים 1961–1963 שימש שר החינוך בממשלתו של בן-גוריון, ובשנים 1963–1966 היה סגן ראש הממשלה בממשלתו של לוי אשכול, ללא תיק ביצועי. בנוסף, בשנים 1958–1966 כיהן אבא אבן כנשיא מכון ויצמן למדע. החל משנת 1966 שימש שר החוץ בממשלות אשכול וגולדה מאיר והתמיד בתפקיד זה עד 1974. אבן הפך בתודעה הציבורית הישראלית למעין שר חוץ נצחי. בתקופת כהונתו כשר חוץ היה במרכז הפעילות הדיפלומטית שקדמה למלחמת ששת הימים וניהל מאמצים למנוע את המלחמה . לאחר מלחמת ששת הימים, השתתף אבא אבן בעיצובה של החלטה 242 של מועצת הביטחון של האו"ם שהבטיחה כי אין נסיגה ללא שלום. לאחר מלחמת יום הכיפורים, ייצג את ישראל בעיצובה של החלטה 338. בהמשך להחלטה זו, עמד אבן בראש משלחת ישראל לועידת ז'נבה - ועידת השלום הראשונה. אבן המשיך לכהן כשר חוץ בממשלה שהוקמה במרץ 1974 לאחר מלחמת יום הכיפורים, אולם ראש הממשלה גולדה מאיר התפטרה כחודש לאחר הקמת הממשלה עקב הלחץ הציבורי הגובר. בשנים 1984-1988, במהלך כהונתה של הכנסת ה-11, שימש בתפקיד יו"ר ועדת החוץ והביטחון, תפקיד שהעדיף על פני תפקיד שר זוטר שהוצע לו בזמן ממשלת האחדות הלאומית. אבן דגל בפשרה טריטוריאלית עם הפלסטינים. יחד עם זה, נהג לומר ש"הפלסטינים לעולם אינם מחמיצים הזדמנות להחמיץ הזדמנות". בריאיון לדר שפיגל בשנת 1969 אמר: "מפת יוני בשבילנו היא שוות-ערך לסכנה והעדר ביטחון. אינני מגזים באומרי שיש בה עבורנו משהו מהזיכרון של אושוויץ".