bccon-2014 adm06 hony,_i_shrunk_the_data

  • 174 views
Uploaded on

Are your servers running out of space as more, and more complex data is sent thru or stored in applications on the servers? Are your users keep on sending bit like attachments again and again? Do …

Are your servers running out of space as more, and more complex data is sent thru or stored in applications on the servers? Are your users keep on sending bit like attachments again and again? Do standard tasks like compact or fixup last for ages or does your backup still runs during working hours? Learn how to benefit from build-in space saving features. Maximize disk space savings provided by Domino Attachment and Object Service (DAOS) and ensure that your environment is properly configured for best performance with this feature. Reduce network bandwidth when replicating databases between servers and increase mail quotas without using more disk space. As of Domino 9.0.1, DBMT is the swiss army knife for administrators. Learn about pre-allocating space to avoid file fragmentation during a copy-style compact. Ensure that a mail application in a clustered environment is always available and mail gets delivered while performing file compaction and other standard tasks

More in: Technology
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Be the first to comment
    Be the first to like this
No Downloads

Views

Total Views
174
On Slideshare
0
From Embeds
0
Number of Embeds
1

Actions

Shares
Downloads
7
Comments
0
Likes
0

Embeds 0

No embeds

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
    No notes for slide

Transcript

  • 1. HONEY, I Shrunk The Data !! Ulrich Krause , 19.03.2014, BCCon 2014, Hamburg More Space On The Domino Server
  • 2. BCCon 2014 :: HONEY, I Shrunk The Data !! About: Ulrich Krause Administrator /Developer seit 1993 Senior Software Architect bei BCC OpenNTF Contributor IBM Champion 2011/2012/2013/2014 Blog http://www.eknori.de Notes Forum (http://www.atnotes.de)
  • 3. BCCon 2014 :: HONEY, I Shrunk The Data !!
  • 4. BCCon 2014 :: HONEY, I Shrunk The Data !!
  • 5. BCCon 2014 :: HONEY, I Shrunk The Data !!
  • 6. BCCon 2014 :: HONEY, I Shrunk The Data !! Notes Anwendung (vereinfacht) Designelemente Dokumente • Text • Attachments • Embedded objects (Images, OLE2) Ansichtenindex Transaction Log Fulltext Index Design Text Attachments
  • 7. BCCon 2014 :: HONEY, I Shrunk The Data !! Wo können wir ansetzen? Compact Application Design Note Compression Document Body Compression Attachment De-Duplication (DAOS) Transaction Log Location Fulltext Index Location
  • 8. BCCon 2014 :: HONEY, I Shrunk The Data !! Compact im Frontend Ein Compact reduziert nicht in jedem Fall die Grösse einer Anwendung Bei einer strukturelle Änderung ( z.B Wechsel des ODS ), wird ein copy-style compact ausgeführt. (-L) Ist die Transaktionsprotokollierung aktiviert, wird ein einfaches in-place compact (-b) ausgeführt Ist keine Transaktionsprotokollierung aktiviert, wird ein in-place compact mit Reduzierung der Datenbankgrösse ausgeführt. Entspricht dem –B
  • 9. BCCon 2014 :: HONEY, I Shrunk The Data !! Copy-Style Compact Compact -c • Erstellt eine .TMP Datenbank db.NSF db.TMP
  • 10. BCCon 2014 :: HONEY, I Shrunk The Data !! Copy-Style Compact Compact -c • Kopiert alle Dokumente von .NSF in.TMP db.NSF db.TMP
  • 11. BCCon 2014 :: HONEY, I Shrunk The Data !! Copy-Style Compact Compact -c • Nach erfolgreichem Kopieren wird die .NSF gelöscht und die .TMP in .NSF umbenannt db.NSF db.TMP
  • 12. BCCon 2014 :: HONEY, I Shrunk The Data !! Load compact -ODS <version> Führt ein copy-style compact nur bei solchen Datenbanken aus, deren ODS kleiner als das angegebene ODS ist Unterschied zwischen ODS 43 und ODS 51 = bis zu 80% weniger File I/O auf Server UND Client Hardware Neu in ND 9.0.x = ODS52
  • 13. BCCon 2014 :: HONEY, I Shrunk The Data !! load compact #nn Es werden nn parallele Komprimierungstasks gestartet Es sollten nicht mehr als 8 Tasks parallel laufen
  • 14. BCCon 2014 :: HONEY, I Shrunk The Data !! load compact -* Komprimiert *.NTF und .BOX Dateien zusätzlich zu .NSF
  • 15. BCCon 2014 :: HONEY, I Shrunk The Data !! load compact -upgrade compact -upgrade • neuer Parameter in Notes / Domino 9
  • 16. BCCon 2014 :: HONEY, I Shrunk The Data !! load compact -upgrade http://blog.nashcom.de/nashcomblog.nsf/dx/upgrading-ods-for-databases-with-old-db-class-in-domino- 9.htm?opendocument&comments
  • 17. BCCon 2014 :: HONEY, I Shrunk The Data !! Weitere Optionen W nn – Es werden nur die Datenbanken komprimiert, die nicht innerhalb der letzten nn Tage erfolgreich bearbeitet wurden w – ohne Systemdatenbanken (log.nsf, names.nsf). X nn – Dauer der Komprimierung einer Anwendung auf nn Minuten beschränken (nur bei “in-place” Komprimierung) x nn – Gesamtdauer des Komprimierungslaufs auf nn Minuten begrenzen DEBUG_ENABLE_COMPACT_8_5=1 ( ab 8.5.1 )
  • 18. BCCon 2014 :: HONEY, I Shrunk The Data !! ODS und Notes Client Neu in IBM Notes 8.5.2 • NSF_UpdateODS = 1 • Create_R85_Database = 1 • Default: ODS 51 Datenbanken, die in Verwendung sind, werden beim nächsten Programmstart komprimiert Alle anderen Datenbanken werden im Hintergrund komprimiert. • Einmaliger Vorgang ( NSF_UpdatedToODS=51 )
  • 19. BCCon 2014 :: HONEY, I Shrunk The Data !! ODS 52 CREATE_R9_DATABASES=1 Beseitigt ein sehr altes, sehr selten auftretendes Problem bei mittel und hoch verschlüsselten Datenbanken Beseitigt ein Problem mit Attachments > 2GB • http://www-01.ibm.com/support/docview.wss?rs=899&uid=swg21648607 Details: John Paganetti, Connect 2014 , ID 104 • Best Practices for Upgrading IBM Notes® and Domino® to 9.0.x
  • 20. BCCon 2014 :: HONEY, I Shrunk The Data !! Medium Encryption  Strong Encryption COMPACT_UPGRADE_MEDIUM_ENCRYPTION_TO_STRONG=1 Beim nächsten compact –c werden alle Datenbanken mit mittlerer Verschlüsselung auf hohe Verschlüsselung gehoben. Workaround, wenn hohe Verschlüsselung nicht möglich ist • ENABLE_MEDIUM_ENCRYPTION_FIX=FFFFFFFB
  • 21. BCCon 2014 :: HONEY, I Shrunk The Data !! Probleme beim compact Das Problem bei compact –c Grund • Häufiges Hinzufügen / Löschen von Dokumenten •  Fragmentierung der ID Table Lösung / Workaround • Neue Replik / Kopie oder Restore aus Backup „Insufficient memory“ oder “unable to extend an ID table - insufficient memory“ http://www-01.ibm.com/support/docview.wss?uid=swg21635439
  • 22. BCCon 2014 :: HONEY, I Shrunk The Data !! Probleme beim compact Compact –c • Copy ( .tmp) und Replace • Kein Zugriff für die Dauer der Komprimierung • Behält NoteIDs bei Kann im Zusammenspiel mit fixup zur Behebung von Datenbankfehlern verwendet werden, bei stark fragmentierten ID Tabellen kann es aber Probleme geben
  • 23. BCCon 2014 :: HONEY, I Shrunk The Data !! compact –REPLICA Compact –REPLICA • Replicate (.repl) und Replace • Zugriff weiterhin möglich ( außer in der rename Phase) • ID Tabellen werden reorganisiert; • aber: NoteIDs werden nicht beibehalten • In erster Linie präventiv, aber auch kurativ • Kein Ersatz für compact –c, aber eine zusätzliche Option
  • 24. BCCon 2014 :: HONEY, I Shrunk The Data !! compact –REPLICA Optionen Parameter Erforderlich Beschreibung -REPLICA Erforderlich Komprimierung mittels Replik -REN_WAIT <n> Optional Zeitraum in Minuten, in denen der Compact Task die .repl Datei versucht umzubenennen, nachdem die Replikation und Synchronisation beendet wurde -REN_WAIT 5 -RESTART Optional Domino Server Neustart wenn die Umbenennung nicht erfolgreich durchgeführt werden kann. Der Neustart wird erst ausgeführt, wenn ALLE System Datenbanken für den Rename bereit sind. -IDS_FULL <n> Optional Komprimierung wird nur dann durchgeführt, wenn die ID Table zu einem gewissen Prozentsatz gefüllt ist. (0 bedeutet immer komprimieren ) -IDS_FULL 80 ( in 9.0 –IDS_FULL 080 )
  • 25. BCCon 2014 :: HONEY, I Shrunk The Data !! Beispiel 1 Wöchtliches Komprimieren aller in der system_dbs.ind enthaltenen Dateien mit anschließendem Neustart des Servers
  • 26. BCCon 2014 :: HONEY, I Shrunk The Data !! Beispiel 2 Komprimieren aller in der comp_id_table.ind enthaltenden Datenbanken, wenn die ID Table zu 70% gefüllt ist
  • 27. BCCon 2014 :: HONEY, I Shrunk The Data !! Domino Console
  • 28. BCCon 2014 :: HONEY, I Shrunk The Data !! compact –REPLICA & Client Die Funktion ist im Client vorhanden, ist aber zur Zeit noch nicht supported NSF_UpdateCompactReplica=1 Nach dem Neustart des Client zeigt der “Housekeeping” Agent fir folgende Meldung im Log • (n)compact -REPLICA -ODS -Quiet -Client -UpdateIndexes
  • 29. BCCon 2014 :: HONEY, I Shrunk The Data !! Update Dokumentation SPR # CSCT9ASJSX: 9.0 Admin Help incorrect for - IDS_FULL and -REN_WAIT • Indicates the incorrect need for “=”: • HELP: -IDS_FULL=80 • CORRECT: -IDS_FULL 80 • Fixed in 9.0.1 SPR # TSOE95L8PY: Compact Replica -IDS_FULL argument not properly parsing percentage argument • EX: ... -REPLICA -IDS_Full 80 ... • 9.0 Workaround: ... -REPLICA -IDS_Full 080 • Fixed in 9.0.1
  • 30. BCCon 2014 :: HONEY, I Shrunk The Data !! Defrag Fragmentierung beeinträchtigt die I/O Performance Auch eine nur leichte Fragmentierung kann die Leistung von Leseoperationen um bis zu 50% reduzieren Load compact –c reserviert keinen Speicherplatz für die neue Datenbank.. Fragmentierung ist vorprogrammiert Auch der Volltextindex einer Anwendung wird fragmentiert Die NLO Dateien des DAOS Repositories werden ebenfalls im Laufe der Zeit immer mehr fragmentiert
  • 31. BCCon 2014 :: HONEY, I Shrunk The Data !! DominoDefrag Andrew Luder, OpenNTF • http://www.openntf.org/Projects/pmt.nsf/ProjectLookup/Do minoDefrag
  • 32. BCCon 2014 :: HONEY, I Shrunk The Data !! Defrag Beispiel Lotus Software KnowledgeBase ( 5 * compact –c ) Vorher • 68 Fragmente • 7550 ms Nachher • 1 Fragment • 125 ms
  • 33. BCCon 2014 :: HONEY, I Shrunk The Data !! Design Note Compression
  • 34. BCCon 2014 :: HONEY, I Shrunk The Data !! Design Note Compression Neues Feature seit Domino 8 Benötigt ODS 48 oder größer • Create_R8_Databases=1 • oder Create_R85_Databases=1 • load compact -c • load compact -c –n “Compress database design” anhaken Reduziert die Größe der Designelemente um 55 – 50 % Reduziert Disk I/O
  • 35. BCCon 2014 :: HONEY, I Shrunk The Data !! Design Note Compression Design Text Attachments Design Text Attachments
  • 36. BCCon 2014 :: HONEY, I Shrunk The Data !! Document Body Compression
  • 37. BCCon 2014 :: HONEY, I Shrunk The Data !! Document Body Compression Neues Feature seit Domino 8.0.1 Reduziert die Größe des Textanteils im RichText Items um bis zu 60% Benötigt ODS 48 oder größer load compact -c –v „Compress document data“ anhaken
  • 38. BCCon 2014 :: HONEY, I Shrunk The Data !! Document Body Compression Design Text Attachments Design Text Attachments
  • 39. BCCon 2014 :: HONEY, I Shrunk The Data !! LZ1 Attachment Compression
  • 40. BCCon 2014 :: HONEY, I Shrunk The Data !! LZ1 Attachment Compression Gibt es schon seit Domino 6 Ersetzt den Huffmann Algorithmus Bei neuen Datenbanken nicht aktiv Vorhandene Anhänge komprimieren • load compact -c –ZU • Bei Domino 6.5.6 zusätzlich in notes.ini DEBUG_ENABLE_LZ1_REPAIR=1 Probleme bei JAVA Applets in Domino <= 8.5 vermeiden • DEBUG_ENABLE_LZ1_HOST_TYPES=0 • In 8.5.1 ist das Problem behoben und der Parameter nicht mehr notwendig
  • 41. BCCon 2014 :: HONEY, I Shrunk The Data !! LZ1 Attachment Compression Vereinzelt wurde von Problemen mit dem Volltextindex einer Datenbank bei Verwendung der LZ1 Komprimierung berichtet. Um Anhänge von LZ1 wieder zurück zu Huffmann zu komprimieren • Load compact –c –ZD • In Domino 6.5.6 zusätzlich DEBUG_ENABLE_LZ1_REPAIR=1 in die notes.ini eintragen
  • 42. BCCon 2014 :: HONEY, I Shrunk The Data !! LZ1 Attachment Compression Design Text Attachments Design Text Attachments
  • 43. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Estimator
  • 44. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Estimator Tool zur Vorbereitung des DAOS Rollout • Für alle unterstützten betriebssysteme • http://www-01.ibm.com/support/docview.wss?rs=463&uid=swg24021920
  • 45. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Estimator (notes.ini) Beim DAOS Estimator gibt es eine große Lücke bei der Darstellung von Attachments zwischen 64k und 1 MB • DAOSEST_BUCKETS=16,64,128,256,512,768,1024,2048,3072,4096 • Diese Einstellung in der notes.ini ändert die Darstellung wie folgt: • 16K, 64K, 128K, 256K, 512K, 768K, 1MB, 2MB, 3MB and 4MB Source: Lotus Software Knowledge Base • http://www- 01.ibm.com/support/docview.wss?rs=0&q1=1418102&uid=swg21418102
  • 46. BCCon 2014 :: HONEY, I Shrunk The Data !! LZ1 != HUFFMAN Db1 – LZ1 aktiviert, Db2 – LZ1 nicht aktiviert => 2 .NLO Files !!
  • 47. BCCon 2014 :: HONEY, I Shrunk The Data !! D A O S
  • 48. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Domino Attachment Object Service Anhänge werden nicht mehr in der Anwendung gespeichert Anhänge werden als NLO (Notes Large Object ) gespeichert Das Notes Dokument enthält nur noch ein Ticket Trennung von statischen und dynamischen Daten Bit-identische Anhänge werden nur noch einmal als NLO im DAOS Repository gespeichert Für den Anwender und Programme von Drittanbietern ist DAOS Volkommen transparent
  • 49. BCCon 2014 :: HONEY, I Shrunk The Data !! Voraussetzungen für DAOS Domino 8.5 (ODS 51) SHARED MAIL OFF Transaktionsprotokollierung DAOS Repository erstellen DAOS auf dem Server aktivieren DAOS auf Anwendungen aktivieren
  • 50. BCCon 2014 :: HONEY, I Shrunk The Data !! Shared Mail abschalten Serverdocument – Shared Mail Field Shared Mail = None „Load object unlink shared.nsf“
  • 51. BCCon 2014 :: HONEY, I Shrunk The Data !! Transaktionsprotokollierung Wird zwingend für DAOS benötigt Serverdokument – Transactional Logging Separates Laufwerk verwenden Ausserhalb des Data Verzeichnisses CREATE_R85_LOG=1 Erfordert Neustart des Servers
  • 52. BCCon 2014 :: HONEY, I Shrunk The Data !! Transaktionsprotokollierung Protokollmethode Circular • 4GB Limit Archive • Keine Größenbegrenzung. Dateien werden vom Backup Programm gelöscht Linear • Wie circular, aber ohne Größenbegrenzung
  • 53. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Repository Separates Laufwerk verwenden SAN, NAS Pro Server ein Repository • Max.1.000 Unterverzeichnisse • Max 40.000 .NLO / Verzeichnis • = 40.000.000 eindeutige .NLOs • Daos.cfg ( im Domino Data Directory) • Daoscat.nsf .NLO wird mit der ServerID verschlüsselt • Abschalten mit DAOS_ENCRYPT_NLO=0 Repository in Backupstrategie einplanen
  • 54. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Repository Kann der Wert für die max. Anzahl von .NLO pro Unterverzeichnissen geändert werden? Ja, DAOS_MAX_FILES_PER_SUBCONTAINER=40000 Kann Performanceprobleme verursachen Nachträgliches Ändern ändert nicht die bestehende Struktur. Dateien werden lediglich ab dem Zeitpunkt der Aktivierung entsprechend den neuen Vorgaben auf die Verzeichnisse verteilt. Bei Reduzierung des Wertes reduziert sich auch die Anzahl der insgesamt möglichen .NLO • 1.000 * DAOS_MAX_FILES_PER_SUBCONTAINER = MAX_NLO
  • 55. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS auf dem Server aktivieren Serverdokument – DAOS Minimale Größe für Anhänge • 64kB (= DEFAULT ab 8.5.1 ) • Wert mit DAOS Estimator ermitteln DAOS Basispfad • Außerhalb vom data directory! Wann wird ein Objekt im Repository gelöscht? • Hängt ab von der Backupstrategie • 0 Tage = sofort, wenn der refcount = 0 • An der Serverkonsole: TELL DAOSMGR PRUNE 0 DAOS wird nach Neustart des Servers aktiviert
  • 56. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS Object Size ändern. Und dann ? Die minimale Grösse kann nachträglich im Serverdokument geändert werden Nach Neustart des Servers werden nur noch Anhänge ab der neuen Größe in das DAOS Repository übernommen Load compact –c db.nsf Anhänge kleiner als die eingestellte Grösse werden wieder in der Anwendung gespeichert. Wenn Referenz Counter = 0, dann werden die NLOs beim nächsten prune Lauf gelöscht.
  • 57. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS auf Datenbanken aktivieren Datenbank  Eigenschaften  „propeller hat“ für einzelne Datenbanken Verwenden Sie den Adminclient für die Aktivierung mehrerer Datenbanken Gültig für neue Attachments! Bestehende Attachments werden mit folgendem Befehl in das DAOS Repository übernommen • Load compact –c –DAOS ON <PathNSFs>
  • 58. BCCon 2014 :: HONEY, I Shrunk The Data !! Das Endresultat Design Text Tickets Design Text Attachments DAOS Repository
  • 59. BCCon 2014 :: HONEY, I Shrunk The Data !! Die Transaktionsprotokoll Falle load compact –c –DAOS ON Kein Attachment wird ins DAOS Repository übernommen tell daosmgr dbsummary count = 0 load compact -c -T -DAOS on
  • 60. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Replizierung DAOS ist ein Serverfeature! Bei einer lokalen Replik auf dem Client werden auch die Anhänge in der Replik gespeichert. Das gilt auch für Repliken auf Servern, auf denen DAOS nicht aktiv ist Jeder Server im Cluster hat sein eigenes DAOS Repository.
  • 61. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Replizierung Client  Server (ab Release 8.5.1) • Bekannte Anhänge werden nicht auf den Server übertragen = „smart replication“ • Mailweiterleitung • Antwort mit Historie Server  Server (ab Release 8.5.1) • Bekannte Anhänge werden nicht auf den Zielserver übertragen
  • 62. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Replizierung Domino 8.5 Domino 8.5.1 Achtung!!: ADMINP_ACCELERATED_REPLICA_OVERRIDE=4 !!
  • 63. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Replizierung
  • 64. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und die mail.box RM_NO_LOG_OBJECTS_IN_MAILBOX aus notes.ini entfernen DAOS auf allen mail.box Dateien aktivieren DAOS auf allen Maildateien der Anwender aktivieren Erhöht die Performance bei der Mailzustellung
  • 65. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Verschlüsselung Ergibt mehr .NLO Dateien als ohne Verschlüsselung • User A schickt eine verschlüsselte Mail an User B • User B schickt ein verschlüsselte Mail mit dem gleichen Anhang an User A • Insgesamt werden 4 .NLO Dateien im Repository gespeichert In diesem Fall gibt es also keine Platzersparnis. Dennoch ergibt sich durch die Trennung von statischen und dynamischen Daten eine Verbesserung der Performance
  • 66. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Quotas Technote: 1405456 Verhalten abhängig von den Quota Einstellungen Belegter Speicherplatz beim Einfügen einer Note prüfen • Überprüft die physikalische Größe der Datenbank (ohne Anhänge) • Beim Deaktivieren von DAOS kann es aufgrund des 64GB Limits für die maximale Datenbankgröße zu Problemen kommen Dateigröße beim Vergrößern der Datenbank prüfen Dateigröße beim Einfügen einer Note prüfen • Überprüft die logische Größe der Datenbank (mit Anhänge)
  • 67. BCCon 2014 :: HONEY, I Shrunk The Data !! daoscat.nsf synchron halten NICHT über DDM!! Programmdokument verwenden tell daosmgr resync 8.5.1 IF1 ermöglicht ein schnelleres Resync der daoscat.nsf. Der neue Schalter „quick“ aktualisiert die DIT und den DOI, ohne jede Datenbank zu überprüfen und den refcount zu aktualisieren.
  • 68. BCCon 2014 :: HONEY, I Shrunk The Data !! Immer wieder „Needs Resync“ DDM enthält einen Hinweis auf die erste Datenbank, die das „Needs Resync“ ausgelöst hat. Wenn sich die Ursache nicht genau ermitteln lässt, dann: • debug_threadid=1 • console_log_enabled=1 • daos_logging=<path/daos.txt>STATE_CHANGE In 8.5.2 wurden viele der Umstände adressiert, die zu einem „Needs Resync“ führen können (SPR# RCOR83NLQK)
  • 69. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS abschalten Was passiert, wenn DAOS wieder abgeschaltet wird In den Datenbankeigenschaften • Wenn sich keine Anhänge in einer Datenbank befinden passiert nichts • Wenn sich Anhänge in einer Datenbank befinden • Im Adminclient wechselt der Status der Datenbank in der Übersicht zu „Read Only / Nur Lesen“ • DAOS funktioniert weiter. Es werden aber keine neuen Anhänge mehr im Repository gespeichert. Neue Anhänge verbleiben in der Datenbank Im Serverdokument • Wie bei den Datenbankeigenschaften
  • 70. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und fehlende NLO Das NLO wurde auf Betriebssystemebene gelöscht TELL DAOSMGR LISTNLO MISSING <application.nsf> Ergebnis wird per Default in das data Verzeichnis geschrieben
  • 71. BCCon 2014 :: HONEY, I Shrunk The Data !! Daosmgr in Domino 8.5.2 Domino 8.5.2 erweitert die Optionen des daosmgr Fehlende NLOs können nun über alle Datenbanken eines Verzeichnisses gesucht werden • tell daosmgr listnlo missing mail
  • 72. BCCon 2014 :: HONEY, I Shrunk The Data !! Welches Attachment = welches .NLO Objekt? DEBUG_DAOS_DIAGNOSTICS=1 tell daosmgr LISTNLO MAP -V maildatabase.nsf DataDirectory  listNlo.txt
  • 73. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und Archivierung (8.5.2) DAOS ON zusammen mit –a verwenden • load compact -a -DAOS on maildb.nsf Beim Erstellen der Archivdatenbank wird diese automatisch DAOS enabled • http://www- 01.ibm.com/support/docview.wss?rs=899&uid=swg21426481
  • 74. BCCon 2014 :: HONEY, I Shrunk The Data !! DAOS und fehlende Datenbanken Die Datenbank wurde auf Betriebssystemebene gelöscht Fehlermeldung beim Serverstart • „Informational - The DAOS catalog is not synchronized. Deletions will be postponed. Please run 'tell daosmgr resync' at the next convenient opportunity to re-synchronize“ Wurde die Datenbank zufällig gelöscht? • Nein • TELL DAOSMGR RESYNC oder RESYNC FORCE • Ja • Aus dem ( hoffentlich vorhandenem ) Backup zurückholen • Eine neue Replik von einem Clusterserver erstellen Gleiche Fehlermeldung, wenn Datenbanken auf Betriebssystemebene verschoben werden
  • 75. BCCon 2014 :: HONEY, I Shrunk The Data !! Nochmal 50% ? Wenn wir die Verschlüsselung mit der ServerID abschalten können, dann können wir doch alle NLO in nur einem Repository speichern, oder ? … Theoretisch ja, praktisch NEIN !! IBM plant zur Zeit kein zentrales Repository SAN ( z.B. ) NetApp kann hier einen Vorteil bieten • http://blog.nashcom.de/nashcomblog.nsf/dx/domino-with- netapp-storage.htm
  • 76. BCCon 2014 :: HONEY, I Shrunk The Data !! NetApp Storage System Block Storage Deduplication
  • 77. BCCon 2014 :: HONEY, I Shrunk The Data !! Verlagerung des FullText Index Neu in 8.5.3 FTBasePath=d:full_text Trennung von NSF und FT Kann auch auf einem anderen Laufwerk liegen • seperate Spindel = anderer I/O channel Verhindert zusätzliche Fragmentierung des Data Dir
  • 78. BCCon 2014 :: HONEY, I Shrunk The Data !! Backup und Restore Keine Änderung der Strategie bei .nsf Dateien Ein zusätzlicher Job muss für .NLO Dateien eingeplant werden NLO Dateien benötigen keinen speziell Agenten oder Software WICHTIG: die Reihenfolge • Wenn der Server während des Backups läuft • NSF vor NLO sichern • Wenn der Server während des Backups heruntergefahren ist • Reihenfolge nach Belieben IBM Technote # 1358548 - DAOS Backup und Restore
  • 79. BCCon 2014 :: HONEY, I Shrunk The Data !! Admin Client (Dateiansicht) Neue Spalten für DAOS Neue Spalten für die Komprimierung
  • 80. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT DataBase Maintenance Tool Neues Feature in Domino 9.0 Fasst viele bekannte Wartungsoptionen zu einem konfigurierbaren Paket zusammen Ziel ist es, den Wartungsaufwand für den Administrator zu reduzieren und einen reibungslosen Betrieb des Servers sicherzustellen
  • 81. BCCon 2014 :: HONEY, I Shrunk The Data !! Was erledigt das DBMT ? „Copy-style compact“ Operationen Löschen von „deletion stubs“ Inkrementelles Aktualisieren von Ansichtenindizes Reorganisation von Ordnern Ablauf von “soft-deleted entries” Aktualisierung von Ungelesenen-Markierungen Reparatur von Datenbanken ( fixup ) Alles kann automatisiert und konfiguriert werden.
  • 82. BCCon 2014 :: HONEY, I Shrunk The Data !! Was erledigt das DBMT ? DBMT ersetzt das bisherige Komprimieren DBMT muss aber an die bisherige Komprimierungsstrategie angepasst und entsprechend konfiguriert werden DBMT beseitigt die im Falle eines Failover entstehenden langen Wartezeiten beim Öffnen von für lange Zeit ungenutzten oder neuen Datenbanken In geclusterten Umgebungen überwacht DBMT die CLDBDIR.NSF und stellt sicher, daß notwendige Clusterrepliken verfügbar sind
  • 83. BCCon 2014 :: HONEY, I Shrunk The Data !! Was erledigt das DBMT ? DBMT ersetzt den UPDATE ALL Task aus der notes.ini. Daher sollte der Eintrag dort entfernt werden • ServerTasksAt2=Updall
  • 84. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT vs Updall UPDALL führt standardmäßig die folgenden Aktionen aus • Löschen von „deletion stubs“ • Ablauf von “soft-deleted entries” • Aktualisierung von Ungelesenen-Markierungen DBMT beinhaltet diese Aktionen und ist schneller Wird DBMT verwendet, kann der normale UPDALL Task durch den Parameter –nodbmt beschleunigt werden
  • 85. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT ist ein Server Task und kann manuell über die Server Konsole gestartet werden Die Ausführung von DBMT kann auch über Programmdokumente gesteuert und konfiguriert werden
  • 86. BCCon 2014 :: HONEY, I Shrunk The Data !! Systemdatenbanken sind vom Compact ausgeschlossen • -updall und -fti Operationen werden ausgeführt Systemdatenbanken • admin4.nsf, busytime.nsf, catalog.nsf, cldbdir.nsf, clubusy.nsf, daoscat.nsf, ddm.nsf, domlog.nsf, events4.nsf, log.nsf, lndfr.nsf, names.nsf, statrep.nsf, dbdirman.nsf, dircat.nsf mtdatamtstore.nsf
  • 87. BCCon 2014 :: HONEY, I Shrunk The Data !! Weitere (System) Datenbanken können über die notes.ini variable DBMT_COMPACT_FILTER= zu der (Ausschluss-)Liste hinzugefügt werden • Einträge sind case-InSensitive • Einträge sind relativ zum DataDir • Trennen der Einträge duch Leerzeichen ( ), Komma (,) oder Semikolon (;). • DBMT_COMPACT_FILTER=mylog.nsf, pathMySysDb.nsf Admin Hilfe ist falsch! DBMT_FILTER “Specify any additional system databases using the notes.ini variable DBMT_FILTER. Separate entries in the list either by a space ( ), a comma (,) or a semi-colon (;). The names are case-insensitive and are relative to the data directory. ”
  • 88. BCCon 2014 :: HONEY, I Shrunk The Data !! Anstelle des notes.ini Parameters kann auch eine Datei DBMT_COMPACT_FILTER.IND im DOMINO DATA DIR verwendet werden • Einträge sind case-InSensitive • Einträge sind relativ zum DataDir
  • 89. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT_COMPACT_FILTER.IND wird automatisch generiert, wenn • ODS < 41 • Datenbanken innerhalb der „-range“ Zeit nicht komprimiert werden können • -noCompactLimit darf nicht gesetzt sein Ist die Datenbank vorhanden, werden die Einträge vom DBMT ergänzt
  • 90. BCCon 2014 :: HONEY, I Shrunk The Data !! Werden Datenbanken nicht im festgelegten Zeitrahmen bearbeitet, kann der Administrator entsprechend reagieren • Zusätzliche DBMT Instanz für bestimmte Datenbanken • Anpassen von -compactNdays • Anpassen von -range oder -timeLimit • Anpassen von -compactThreads • Manuelle Komprimierung anstoßen
  • 91. BCCon 2014 :: HONEY, I Shrunk The Data !! Mehrere Instanzen von DBMT Wird keine Datenbank, Ordner oder .ind Datei angegeben, dann wird die Aktion auf alle Datenbanken ausgeführt. Eine 2. Instanz bricht nach dem Start sofort wieder ab
  • 92. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Statistics Nach jedem DBMT Lauf werden die Ergebnisse auf der Konsole ausgegeben Das Ergebnis des letzten Laufs kann auch über „sh stat dbmt“ angezeigt werden
  • 93. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT und DAOS • DAOS kann auf Datenbanken mit „compact –c –daos on“ aktiviert werden. • Diese Option steht unter DBMT nicht zur Verfügung DAOS ist für DBMT transparent
  • 94. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT verwendet „compact –c“ für die Komprimierung, immer … neue DBIID wird generiert volles Backup der Datenbank muss durchgeführt werden • Das ist bei Transaktionsprotokollierung mit Option „archivierend“ nicht optimal
  • 95. BCCon 2014 :: HONEY, I Shrunk The Data !! Fragmentierung http://ab1osborne.blogspot.com/2013/05/dbmt-has-nasty-little-side-effect.html
  • 96. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Pre-Allocation DBMT & compact –c • DBMT preallocs the .TMP file to the used space of the .NSF. • On non-windows platforms it writes to the file in large blocks so get the file less fragmented. On Windows, it does the write as well, but it appears that is not necessary (it seems just setting the file size makes the files more contiguous) • To change the prealloc size, DBMT_PREFORMAT_PERCENT. • DBMT uses the current used space for the .nsf and multiply by the specified percent, so if you specify 200, DBMT doubles the size of the .NSF, if you specify 80, DBMT only allocates 80% of the used space
  • 97. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Pre-Allocation vs Compact
  • 98. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT & Cluster DBMT erstellt keine Clusterrepliken Wird DBMT im Cluster ausgeführt, stellt DBMT sicher, daß nicht alle Clusterrepliken zur gleichen Zeit offline genommen werden.
  • 99. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Compact & Mailrouting MailFileDisableCompactAbort=1 • Dieser Parameter verhindert, daß der Router das Komprimieren der Datenbank abbricht, wenn eine Mail zugestellt werden soll. • Damit bleibt ein auszulieferendes Mail so lange in der mail.box bis der Compact Task abgeschlossen ist. • Bei großen Datenbanken kann das „sehr lange“ dauern. User informieren!
  • 100. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Compact & Mailrouting MailFileEnableDeliveryFailover=1 Der Router liefert eine Mail an eine vorhandene ClusterReplik aus • compact –c • fixup ( Konsistenzcheck ) • wenn Datei nicht vorhanden ist Out Of Office, Regeln arbeiten weiter
  • 101. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT & Mailtemplates Per Default werden spezifische Views in Mail Datenbanken erstellt und aktualisert was eine erhebliche Verbesserung im Falle eines Failover mit sich bringt Voraussetzung dafür ist, dass eine Schablonen- Vererbung gesetzt ist und einer der folgenden Template Namen verwendet wird: • StdR7Mail,StdR8Mail,StdR85Mail oder StdR9Mail
  • 102. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT und angepasste Schablonen Sollten Sie angepasste Mail Templates verwenden können Sie diese mit folgendem Notes.ini Eintrag mit einbeziehen: • DBMT_MailTemplate=tname1,tname2,tname3
  • 103. BCCon 2014 :: HONEY, I Shrunk The Data !! DMBT & Ansichten Administratoren können auch weitere Views definieren, die von dem DBMT verwaltet werden sollten Auch hierfür muss die Vererbung gesetzt und ein Template Name auf der Datenbank definiert sein DBMT_TemplateName= ViewNameOrAlias1; ...ViewNameOrAliasN • Ersetzen SieTemplateName mit dem vererbten Template Name • Ersetzen Sie ViewNameOrAlias1-N mit dem Datenbank View Namen oder Alias • DBMT_StdNotesLog=SecurityEvents, ReplicationEvents, MailRoutingEvents notes.ini Einträge sind auf 128 Zeichen begrenzt
  • 104. BCCon 2014 :: HONEY, I Shrunk The Data !! DBMT Optionen
  • 105. BCCon 2014 :: HONEY, I Shrunk The Data !! Beispiel 1 Zeitgesteuert, Start um 03:00, alle Dateien im Ordner „mail“, maximale Laufzeit 120 Minuten
  • 106. BCCon 2014 :: HONEY, I Shrunk The Data !! Beispiel 2 Zeitgesteuert, Start um 03:00, alle Dateien im Ordner „mail“, maximale Laufzeit 120 Minuten Laufender Compact Task wird bis zum Ende ausgeführt, aber kein neuer gestartet
  • 107. BCCon 2014 :: HONEY, I Shrunk The Data !! Beispiel 3 DBMT wird beim Serverstart geladen und läuft in der Zeit von 2:00 – 3:00 in 2 Compact / Update Threads über alle Datenbanken, die innerhalb der letzten 5 Tage nicht komprimiert wurden. Sonntags wird ein zusätzliches Fixup durchgeführt
  • 108. BCCon 2014 :: HONEY, I Shrunk The Data !! Korrektur Dokumentation SPR #JPAI965RZM: Compacting of DBMT in Cluster will only do certain databases unless -force N specified • Fixed in 9.0.1 SPR# TSOE99PKSJ: Confusing message when no work is needed: • Fixed in 9.0.1
  • 109. BCCon 2014 :: HONEY, I Shrunk The Data !! Feedback gern auch per Email ulrich.krause@bcc.biz Fragen?