קשה לדעת מי היה הראשון שחשב על כך שהגרמנים יצטרכו לשלם פיצויים על הרכוש שגזלו מהיהודים ועל הסכל שגרמו להם. נראה כי הרעיון נישא באוויר מתחילת המלחמה, ככל הנראה בהשפעת תשלומי העונשין שהושתו על גרמניה בתום מלחמת העולם הראשונה.

בן־גוריון קיבל תזכיר ראשון בעניין זה במהלך 1940; ברל כצנלסון דיבר על כך בפומבי בסוף אותה שנה. בדצמבר 1942 כבר פעל בתל-אביב ארגון פרטי, יוסטיציה שמו, לרישום הדרישות לפיצויים עבור נפגעי הנאצים. ראשי הארגון כתבו לסוכנות כי יש בהם עורכי דין מנוסים מארצות שונות ולאחרים מהם קשרים עם מדינאים ועיתונאים באנגליה ובארצות הברית.

"יוסטיציה" ביקש את תמיכת הסוכנות, שכן פעילותו כתב, תהיה גם לטובת אינטרסים לאומיים, בין היתר בשל העובדה שיעסיקו "מספר הגון של אינטלקטואלים וביניהם מספר ממעפילי פטריה שטרם הסתדרו". מישהו מאנשי הסוכנות רשם על גבי המכתב: "המעשה קצת מוקדם יותר מדי. אין איש יודע את תנאי השלום."

אך עם זאת ציין לו לבדוק מי הם אנשי יוסטיציה ומה גובה שכר הטרחה שהם מבקשים. בתיקי הסוכנות נאספו בינתיים תזכירים שונים שדנו בבעיות המשפטיות הכרוכות בתביעת הפיצויים: המגמה היתה להבטיח שהסוכנות היהודית תוסמך לייצג את תביעות העם היהודי בפני המעצמות וכי רוב הפיצויים לא יינתנו ליחידים אלא יופנו לקליטת עולים בארץ-ישראל, באמצעות הסוכנות ואחר כך באמצעות ממשלת ישראל. החל ב-1942 הרבו להתדיין על כך בעיתונות. דוד בן-גוריון התבטא ברוח זו בוועדת התכנון של הסוכנות בסוף השנה הבאה.

בקיבוץ משמר העמק התגורר בימים ההם אחד מראשוני השומר הצעיר, ציר בכמה מהקונגרסים הציוניים, ושמו מרדכי שנהבי. במחצית הראשונה של חודש ספטמבר 1942 הציע שנהבי לקרן הקיימת לישראל לייסד קריית הנצחה לזכר קרבנות השואה, או בלשונו – "חללי המלחמה וגיבורי ישראל". בתוך זמן לא רב קיבלה הקריה המתוכננת את השם שתישא כשתקום כעבור שנים: יד ושם.

הצעות שנהבי גררו שורה של דיונים בכתב ובעל־פה, והוקמה גם ועדה לבדיקתן; לא היה ביטוי מובהק וגרוטסקי מזה לנטייה להדחיק את השואה מההווה אל העבר, עם מבט אל העתיד: בעת שהתדיינו על הדרך ההולמת ביותר להנצחת זכרם – רוב קרבנות השואה היו עוד בין החיים.