Skip to content

Արտադրության տվյալների բազան հեռացվել է կամ S3 դույլը ջնջվել է առանց վերջին պահուստավորման. IOPS գրելու դադարեցում, WAL/Binlog Point-in-Time վերականգնում և միջադեպերի բացահայտում

Ծրագրային ապահովման ճարտարագիտության մեջ մի քանի պահեր առաջացնում են այնքան անմիջական ադրենալին, որքան վազքը DROP TABLE, TRUNCATE, մի չզտված DELETE FROM users;, terraform destroy, կամ aws s3 rb s3://prod-bucket --force տերմինալի ներդիրի դեմ, որի հետ դուք կարծում էիք, որ միացված է staging կամ localhost, միայն մի վայրկյան հետո հասկանալու համար, որ դուք պարզապես ջնջել եք կենդանի արտադրական տվյալների բազան կամ օբյեկտների պահեստավորման դույլը, և որ ավտոմատացված ամենօրյա կրկնօրինակումները կամ ձախողվել են ամիսներ առաջ, կամ երբեք չեն միացվել:

Անկախ նրանից, թե դուք ապաքինվում եք 99.9% Ձեր ընկերության արտադրական տվյալների կամ ընդմիշտ կորցնելու դեպքում ամբողջովին կախված է ինչ եք անում առաջին 60-ից 180 վայրկյանում կործանարար հրամանի ավարտից հետո: Երբ կատարում եք ա DELETE, DROP TABLE, կամ TRUNCATE ** PostgreSQL-ում (MVCC կույտային ֆայլեր)** կամ MySQL / MariaDB (InnoDB .ibd tablespaces), տվյալների բազայի շարժիչը չի անմիջապես զրոյացնում NVMe/EBS սկավառակի օգտատիրոջ տողերի հիմքում ընկած մեգաբայթերը: Փոխարենը, այն նշում է այդ տողերը կամ ֆայլային համակարգի ինոդները որպես չտեղեկացված (dead tuples կամ չկապված ֆայլերի նկարագրիչներ): Այնուամենայնիվ, յուրաքանչյուր վայրկյան, երբ ձեր կենդանի վեբ սերվերները, ֆոնային Sidekiq/Celery աշխատողները և cron աշխատանքները մնում են միացված և գրում են նոր տողեր, կամ ավելի վատ՝ ակնթարթային PostgreSQL: autovacuum կամ Linux fstrim (SSD TRIM) գործարկում է, այդ չբաշխված սկավառակի բլոկները վերագրվում են և ընդմիշտ զրոյացվում: Եթե այս միջադեպը առաջացել է ակտիվ փրկագին շորթման հարձակման կամ հանցավոր ցանցի ներխուժման հետևանքով, դիմեք ձեր տեղական իրավապահ մարմիններին և կիբերմիջադեպերին արձագանքելու համարներին մեր միջոցով: շտապ օգնության համարները գրացուցակում և վերանայեք մեր եղբայրների և եղբայրների ուղեցույցները պատահական արտադրության տվյալների բազայի անկում, git force-push և գաղտնի արտահոսքի տրաֆիկ, պատահաբար էլեկտրոնային փոստով ուղարկվել են գաղտնի աշխատավարձի կամ հաճախորդի PII աղյուսակներ, և արտակարգ իրավիճակների հեռավոր աշխատանքի անվտանգություն և տվյալների գաղտնիություն.

Արեք սա հիմա

  1. ՍԱՌԵՑՐԵՔ ԲՈԼՈՐ ԳՐԵԼԻ IOPS-ները 15 Վայրկյանում. անջատեք հավելվածի բոլոր կապերը, դադարեցրեք PostgreSQL-ը autovacuum, և վերամիավորեք հիմքում ընկած Linux ֆայլային համակարգը READ-ONLY (or immediately take a block-level EBS/LVM disk snapshot). Ամեն վայրկյան տվյալների բազան մնում է գրավոր, ֆոնային գործընթացները և autovacuum վերագրանցել մեռած tuples եւ unlinked 8 KB / 16 KB ձեր սկավառակի վրա նստած տվյալների էջերը:
  2. ՄԻ փակեք տվյալների բազայի գործընթացը կամ չվերագործարկեք Linux սերվերը ստուգելուց առաջ /proc/<pid>/fd/ եթե վազեիր DROP TABLE կամ ջնջել ակտիվը .ibd / heap ֆայլ։ Linux-ում, մինչդեռ mysqld կամ postgres գործընթացը դեռևս պահում է ջնջված ֆայլի բաց ֆայլի նկարագրիչը, աղյուսակի չմշակված բայթերը դեռ անփոփոխ են ներսում /proc/$(pgrep -n mysqld)/fd/<N> և կարող է պատճենվել cp մինչև ինոդը թողարկվի գործընթացից դուրս գալուց:
  3. ** Անմիջապես, խափանումներին համապատասխանող Cloud Block Snapshot (aws ec2 create-snapshot, gcloud compute disks snapshot, կամ dd / ddrescue դեպի արտաքին ծավալ) տվյալների շտեմարանի սկավառակի ծավալի ԱՌԱՆՑ վերականգնման որևէ գործիք (pg_dirtyread, undrop-for-innodb, կամ mysqlbinlog).** Երբեք մի գործարկեք վերականգնման սկրիպտները անմիջապես վնասված հատորի միակ օրինակի վրա:
  4. ** Ստուգեք կառավարվող Cloud Point-in-Time վերականգնումը (PITR) և շարունակական առաջ գրելու մատյաններ (PostgreSQL pg_wal / MySQL binlog / MongoDB oplog.rs) անմիջապես։** Նույնիսկ եթե ոչ ոք չի կարգավորել ձեռքով գիշերը pg_dump սկրիպտները, AWS RDS-ը, Aurora-ն, Google Cloud SQL-ը, Azure Database-ը և Supabase-ը հնարավորություն են տալիս 7-ից 35-օրյա շարունակական ավտոմատ կրկնօրինակումներ/գործարքների մատյաններ (or Final Delete Snapshots) լռելյայն, որը թույլ է տալիս վերականգնել կլոնը 1 second առաջ DROP հրաման.
  5. ** Եթե ան AWS S3 դույլ (or GCS / Azure Blob container) դատարկվել է:** Ստուգել aws s3api get-bucket-versioning անմիջապես (if Versioning was Enabled or Suspended,aws s3 rmonly inserted reversibleՋնջել Մարկերները, and all files are 100% intact) Եթե տարբերակավորումը երբեք միացված չէր, ** քաշեք յուրաքանչյուր CDN Edge Cache (Cloudflare / CloudFront), հաճախորդի բրաուզերի քեշը, մշակողի նոութբուքի տեղական կլոնը և տվյալների պահեստը (Snowflake / BigQuery / Fivetran) կրկնօրինակում** մինչև քեշի TTL-ների ժամկետի ավարտը:
  6. Բացեք անարատ #incident-db-recovery պատերազմի սենյակի ալիք և տեղեկացրեք ձեր CTO-ին / Միջադեպի հրամանատարին 15 րոպեի ընթացքում: Թաքցնել արտադրության տվյալների կորուստը ժամերով, մինչ դուք գաղտնի վիճում եք fsck ոչնչացնում է ճշգրիտ WAL հատվածներ, CDN քեշեր և հետաձգված ընթերցման կրկնօրինակներ, որոնք կարող էին փրկել ընկերությանը:

Danger

** Ինչու autovacuum (PostgreSQL) և fstrim (SSD TRIM) ռումբի պես հաշվում են հենց հիմա:** PostgreSQL-ում, երբ աշխատում եք DELETE FROM orders; (առանց ա WHERE կետ), Ջնջված տողերի 100%-ը դեռ ֆիզիկապես նստած են ներսում base/<db_oid>/<relfilenode> սեղանի ֆայլ իրենց հետ xmax գործարքի ID-ի վերնագիրը սահմանված է ջնջվող գործարքի համար: Դատաբժշկական գործիք, ինչպես pg_dirtyread կարող է ետ կարդալ յուրաքանչյուր ջնջված տողը րոպեներով, ՔԱՆԻ PostgreSQL-ի ֆոնը autovacuum Դեմոնը արթնանում է (which happens automatically within 60 seconds when >20% of a table's rows change), նշում է այդ բազմոցները որպես բազմակի օգտագործման տարածք և կրճատում է դատարկ էջերը ֆայլի վերջից: Նմանապես, եթե դուք վազեցիք DROP TABLE (which unlinks the OS file), Linux միջուկի շաբաթական կամ շարունակական fstrim / discard mount տարբերակը ասում է հիմքում ընկած NVMe/EBS SSD կարգավորիչին մշտապես զրոյացնել չբաշխված բլոկները: Դուք պետք է վազեք ALTER TABLE ... SET (autovacuum_enabled = false); կամ նորից միացրեք սկավառակը միայն կարդալու (mount -o remount,ro) առաջին րոպեի ընթացքում։

Որոշման ծառ. Արտակարգ իրավիճակների ստուգում հանված արտադրության տվյալների բազաների և ջնջված S3 դույլերի համար

Օգտագործեք այս դատաբժշկական տրիաժի սխեման՝ ձեր պահեստավորման շարժիչի և ենթակառուցվածքի հիման վրա առաջին 3 րոպեների ընթացքում վերականգնման ճշգրիտ ուղին ընտրելու համար:

flowchart TD
    A["Արտադրության տվյալները ջնջվել են. SQL DROP/DELETE/TRUNCATE, RDS օրինակը ջնջվել է կամ S3 bucket-ը դատարկվել է"] --> B{"Ո՞ր պահեստային շերտն է հարվածել:"}
    B -->|"1. Կառավարվող Cloud DB (AWS RDS/Aurora, GCP Cloud SQL, Azure, Supabase, PlanetScale)"| C["Անմիջապես ստուգեք Cloud Console-ը. Վերականգնել «Point-in-Time Recovery (PITR)»-ից մինչև դեպքից 1 րոպե առաջ ԿԱՄ ստուգեք «Ավտոմատացված վերջնական պատկերը» / Cloud Support 72h Ջնջել:"]
    B -->|"2. Self-hosted PostgreSQL (EC2, Bare Metal, Docker, Kubernetes PVC)"| D["FREEZE-ը գրում է ՀԻՄԱ. Stop App Workers -> Անջատել autovacuum -> Snapshot EBS/LVM Disk Volume"]
    B -->|"3. Ինքնահոսթինգ MySQL / MariaDB (InnoDB) կամ MongoDB"| E["FREEZE-ը ԳՐՈՒՄ Է ՀԻՄԱ. Սահմանեք «SET GLOBAL super_read_only = ON» -> Ստուգեք /proc/PID/fd բաց չկապված ֆայլերի համար -> Snapshot Volume:"]
    B -->|"4. AWS S3 Bucket, GCS Bucket կամ Azure Blob Container"| F{"Արդյո՞ք Bucket Versioning-ը միացված է (կամ նախկինում կասեցված է):"}
    D --> G{"Արդյո՞ք դա «Ջնջել» էր, թե՞ «ԳՈՐԾԵԼ ՍԵՂԱՆԱԿԸ/ԿՏՐԵԼ»:"}
    G -->|"Ջնջել FROM-ից (տողերը ջնջված են, աղյուսակի ֆայլն անփոփոխ է)"| H["Տեղադրեք «pg_dirtyread» ընդլայնումը Cloned Snapshot-ում -> SELECT * FROM pg_dirtyread('table') Որտեղ xmax = Ջնջում է XID-ը"]
    G -->|"ԳՈՐԾԵԼ ԱՂՅՈՒՍԱԿԸ / ԿՏՐՎԵԼ (OS ֆայլն անջատված է)"| I["Կրկնել Արխիվացված/Տեղական «pg_wal» մինչև «recovery_target_xid» ԿԱՄ քանդակել հում 8KB կույտային էջեր չմոնտաժված սկավառակից «pg_filedump»-ի միջոցով"]
    E --> J{"Արդյո՞ք «log_bin» (Բինար մատյան) կամ MongoDB «oplog.rs» միացված է:"}
    J -->|"ԱՅՈ. binlog / oplog ակտիվ է"| K["Կրկնել «mysqlbinlog --stop-position=X» կամ «binlog2sql --flashback» (Հետ DELETE-ները INSERT-ների մեջ)"]
    J -->|"ՈՉ. Բինլոգ և կրկնօրինակ չկա"| L["Պատճենել բաց ֆայլի նկարագրիչը «/proc/PID/fd/N» ԿԱՄ փորագրել 16 ԿԲ InnoDB էջերը հում սկավառակի պատկերից՝ օգտագործելով «undrop-for-innodb (stream_parser + c_parser)»:"]
    F -->|"ԱՅՈ: Տարբերակումը միացված է"| M["100% ՎԵՐԱԿԱՆԳՆՎԵԼԻ. 'aws s3 rm' Ստեղծված է միայն DeleteMarkers -> Batch-Delete All DeleteMarkers AWS CLI-ի միջոցով՝ յուրաքանչյուր օբյեկտ ակնթարթորեն վերականգնելու համար:"]
    F -->|"ՈՉ. Չվերափոխված Ջնջել"| N["Անմիջապես հավաքեք երկրորդական պատճենները. CloudFront/Cloudflare Edge Cache, Fivetran/BigQuery/Snowflake Syncs, Local Dev Environments & Browser Cache"]

Մաս 1. Առաջին 60 վայրկյանը. Ինչպես սառեցնել գրել IOPS առանց բաց ֆայլերի նկարագրիչները ոչնչացնելու

Նախքան վերականգնման մեկ հրաման գործարկելը, կատարեք ստորև բերված ձեր տվյալների բազայի շարժիչի համար ճշգրիտ գրել-սառեցնել հրամանը, որպեսզի ֆոնային գործընթացները դադարեցնեն չբաշխված սկավառակի էջերը վերագրանցել:

Տվյալների բազա / Պահպանման շարժիչ Անմիջապես 15 վայրկյան գրելու-սառեցնելու հրաման Ինչու չպետք է պարզապես վերագործարկեք OS սերվերը Անմիջական սկավառակի պատկերի հրաման (Before Touching Anything)
1. PostgreSQL (12 / 13 / 14 / 15 / 16 / 17) ```sql
ALTER SYSTEM SET autovacuum = անջատված;
SELECT pg_reload_conf();
ՓՈՓՈԽԵԼ ՏՎՅԱԼՆԵՐԻ ԲԱԶԱՆ prod_db SET default_transaction_read_only = միացված;
SELECT pg_terminate_backend(pid) FROM pg_stat_activity WHERE pid <> pg_backend_pid();
``` If you ran DROP TABLE, stopping postgres or rebooting may flush dirty buffers and trigger OS block discard (TRIM). First check /proc/<pid>/fd/ and freeze autovacuum; then remount the disk read-only (mount -o remount,ro /var/lib/postgresql) or pause the VM (virsh suspend / EBS snapshot). AWS EBS:
aws ec2 create-snapshot --volume-id vol-0xxxx --description "EMERGENCY-PRE-RECOVERY"
Linux Raw Disk:
dd if=/dev/nvme1n1 of=/mnt/rescue/pg_raw.img bs=64M status=progress
2. MySQL 8.0+ / MariaDB (InnoDB with innodb_file_per_table=ON) ```sql
SET GLOBAL super_read_only = ON;
SET GLOBAL read_only = ON;
SET GLOBAL innodb_fast_shutdown = 2;
``` CRITICAL LINUX FILE DESCRIPTOR LIFEBOAT: When you DROP TABLE in InnoDB (or accidentally rm an .ibd file), mysqld sometimes keeps the deleted file descriptor open in /proc/$(pidof mysqld)/fd/ until tablespace eviction completes. Once you confirm whether /proc/<pid>/fd holds the deleted .ibd (ls -l /proc/$(pidof mysqld)/fd | grep deleted), immediately copy it (cp /proc/<pid>/fd/34 /tmp/rescued.ibd) and then kill -9 $(pidof mysqld) + mount -o remount,ro. LVM Snapshot:
lvcreate --size 50G --snapshot --name mysql_snap /dev/vg0/mysql_lv
GCP Persistent Disk:
gcloud compute disks snapshot pd-prod-db --zone=us-central1-a
3. MongoDB (Replica Set կամ ինքնուրույն WiredTiger) `` Javascript
db.fsyncLock();
``<br>*(Locks allWiredTigerwrites across the node while keeping the process alive so you can inspectlocal.oplog.rsand copy the/var/lib/mongodb` data files safely).* If you are running a 3-node MongoDB Replica Set and a dropDatabase() or deleteMany({}) just executed on the Primary, immediately kill -STOP (SIGSTOP) or isolate one Secondary node's network if there is any replication lag (or a delayed secondary member) before the drop oplog entry replicates. Copy /var/lib/mongodb while db.fsyncLock() is held, or take an instant cloud volume snapshot.
4. Managed Cloud RDS / Cloud SQL / Supabase / Heroku Postgres Revoke application database user permissions (ALTER USER app_user WITH NOLOGIN;) or temporarily change the RDS Inbound Security Group to allow only your admin IP (blocking all web/worker servers). Do not delete or modify the broken RDS instance (deleting an RDS instance deletes its automated backups unless Retained Backups is checked). Always restore to a brand-new side-by-side Point-in-Time Recovery (PITR) instance. aws rds restore-db-instance-to-point-in-time --source-db-instance-identifier prod-db --target-db-instance-identifier prod-db-rescued --restore-time 2026-10-31T14:22:00Z

Part 2: Deep-Dive Recovery Protocols for PostgreSQL (DELETE vs. DROP TABLE without Backups)

If you have no usable cloud snapshot and no pg_dump backup, use these three escalating forensic methods on a cloned copy of your frozen disk volume (never on the original disk).

+---------------------------------------------------------------------------
| ԻՆՉՊԵՍ POSTGRESQL-ը ՊԱՀՊԱՆՈՒՄ Է ՋՆՋԵԼ ՏՈՂԵՐԸ ՍԿՍԻ ՎՐԱ (MVCC HEAP & WAL RECOVERY) |
+---------------------------------------------------------------------------
|                                                                             |
| [ ՍՑԵՆԱՐ Ա. «Ջնջել օգտվողներից;» (Ոչ WHERE կետ) ] |
| - Սեղանի ֆայլը (/base/16384/24576) ԴԵՌ 100% ՍԿՍԱՎՈՐՈՒՄ Է |
| - Յուրաքանչյուր տող tuple դեռ պարունակում է բոլոր սյունակները (id, էլփոստ, հեշ և այլն) |
| - Postgres-ը պարզապես դրոշմված է «t_xmax = 94821» (ջնջված է XID 94821-ով) |
| ---> ՖԻՔՍ. Բեռնել 'pg_dirtyread' ընդլայնումը -> Կարդալ բոլոր մեռած բազմությունները, որտեղ |
| xmax = 94821 -> INSERT ուղիղ ետ կենդանի աղյուսակում: |
|                                                                             |
| [ ՍՑԵՆԱՐ Բ. կամ «TRUNCATE օգտվողներ»; ] |
| - Postgres չկապված (ջնջված) ֆայլ /base/16384/24576 OS մակարդակով |
| - ՈՒՂԻ 1 (Եթե WAL ֆայլերը pg_wal/-ում դեռ ընդգրկում են աղյուսակի պատմությունը). |
| Կրկնել WAL-ը մինչև 1 գործարք մինչև XID 94821 (recovery_target_xid) |
| - ՈՒՂԻ 2 (եթե ext4/XFS-ում հիմնական պահուստավորումը և ֆայլն անջատված չէ): |
| Սկանավորեք չմշակված չմոնտաժված բլոկ սարքը 8192 բայթանոց Postgres կույտային էջերի համար |
| օգտագործելով «pg_filedump» / հատուկ էջի վերնագրի փորագրիչ (pd_lsn, pd_lower) |
+---------------------------------------------------------------------------

Method 1: Rescuing DELETE FROM table; Using pg_dirtyread (100% Recovery if Autovacuum Was Stopped)

When rows are deleted via DELETE FROM, PostgreSQL's Multi-Version Concurrency Control (MVCC) leaves every single deleted row intact inside the 8 KB heap pages until VACUUM overwrites them. 1. Boot a recovery VM attached to a clone of your frozen PostgreSQL disk volume (with autovacuum = off set in postgresql.conf). 2. Install the open-source pg_dirtyread extension (available in the official PGDG apt/yum repositories as postgresql-<version>-dirtyread, or compiled from github.com/df7cb/pg_dirtyread):

sudo apt-get տեղադրել postgresql-16-dirtyread
3. Connect via psql, enable the extension, and inspect the invisible system columns (ctid, xmin, xmax, dead) of the wiped table to find the exact Transaction ID (xmax) that executed the accidental DELETE:
ՍՏԵՂԾԵԼ EXTENSION pg_dirtyread;

- Գտեք զանգվածի ճշգրիտ xmax գործարքի ID-ն DELETE:
SELECT xmax, count(*)
FROM pg_dirtyread ('users') AS t (xmax xid, dead boolean, id bigint, էլփոստի տեքստ)
ՈՐՏԵՂ մեռած = ճշմարիտ
ԽՈՒՄԲԸ ԸՍՏ xmax
ՊԱՏՎԻՐԵԼ ԸՍՏ հաշվառման (*) DESC;
4. Once you see the offending xmax (for example, xmax = 849302 with 250,000 dead rows), copy all 250,000 deleted rows straight back into a rescued table with a single SQL query:
CREATE TABLE users_rescued AS
SELECT ID, էլ.փոստ, password_hash, create_at
FROM pg_dirtyread ('users')
AS t (dead boolean, xmax xid, id bigint, էլփոստի տեքստ, password_hash տեքստ, create_at timestamptz)
WHERE dead = ճշմարիտ ԵՎ xmax = '849302';

Method 2: Rescuing DROP TABLE or TRUNCATE by Carving Raw 8 KB Heap Pages (pg_filedump)

What if someone ran DROP TABLE customers; (which unlinks the file from /var/lib/postgresql/data/base/<db_oid>/<relfilenode>) and you have no base backup (so standard WAL PITR cannot start)? 1. Even after Linux ext4 or XFS unlinks the file, the raw 8,192-byte (8 KB) PostgreSQL heap pages are still sitting contiguously on your unmounted block device (/dev/nvme1n1). 2. Every PostgreSQL 8 KB data page begins with a unmistakable 24-byte PageHeaderData struct (where pd_lower is between 24 and 8192, pd_upper is between pd_lower and 8192, pd_special is 8192 for heap tables, and pd_pagesize_version is 0x2004 [8192 bytes, version 4]). 3. Using a simple Python/C block scanner (or the official Red Hat / PostgreSQL pg_filedump utility with the -D [Decode Tuple Data] flag), you can scan the raw disk image /mnt/rescue/pg_raw.img in 8,192-byte increments, extract every heap page matching that signature, and decode the binary tuples back into COPY / INSERT statements:

# Ապակոդավորեք չմշակված PostgreSQL կույտ էջերը անմիջապես մարդու կողմից ընթեռնելի բազմակի տվյալների մեջ
-- Օրինակ աղյուսակի համար, որի սխեման էր (bigint, տեքստ, տեքստ, ժամանակի դրոշմ).
pg_filedump -D bigint,text,text,timestamp -f carved_heap_pages.bin > recovered_rows.txt


Part 3: Deep-Dive Recovery Protocols for MySQL / MariaDB (InnoDB Binlog Flashback & undrop-for-innodb)

Method 1: Reversing a DELETE or UPDATE Using mysqlbinlog and binlog2sql --flashback

Since MySQL 8.0, the Binary Log (log_bin) is enabled by default (with binlog_format = ROW) on almost every standard installation (even when the administrator never configured backups). In ROW format, when someone runs DELETE FROM orders; or UPDATE accounts SET balance = 0;, the MySQL binary log records the complete before-image of every single deleted or overwritten row. 1. Check /var/lib/mysql/ for binlog.000001, binlog.000002, etc. (copy them to a safe directory immediately). 2. Locate the exact log position (end_log_pos) right before the accidental DELETE, UPDATE, or DROP:

mysqlbinlog --base64-output=DECODE-ROWS -v /var/lib/mysql/binlog.000042 | grep -C 15 -i «Ջնջել»
3. If it was a DELETE or UPDATE (ROW-format binlog): Use binlog2sql --flashback (or MyFlash) to automatically invert every Delete_rows event in the binary log into a corresponding INSERT INTO statement (and every Update_rows event back to its old column values) without needing an old backup at all:
python3 binlog2sql.py --flashback -h 127.0.0.1 -P 3306 -u արմատ -p \
  -d prod_db -t պատվերներ \
  --start-file='binlog.000042' --start-position=184920 --stop-position=948210 > rollback_orders.sql

Method 2: Rescuing a Dropped InnoDB Table from Raw Disk Using undrop-for-innodb (TwinDB / Percona Data Recovery Tool)

If DROP TABLE was executed on an InnoDB table and you have no backups and no binary logs covering the table creation, the unlinked .ibd tablespace blocks are still on your disk in 16,384-byte (16 KB) InnoDB FIL_PAGE_INDEX pages: 1. Compile the open-source undrop-for-innodb toolkit (github.com/twindb/undrop-for-innodb, which contains stream_parser and c_parser). 2. Run stream_parser against your read-only raw disk image (pg_raw.img or /dev/nvme1n1): it scans the disk at multi-gigabyte-per-second speeds and extracts every 16 KB InnoDB B+Tree index page organized by index_id:

./stream_parser -f /mnt/rescue/mysql_disk.img -t 100G
3. Identify your dropped table's Primary Key index_id (either by parsing the surviving InnoDB data dictionary pages inside pages-*/FIL_PAGE_INDEX/0-1 or by matching your CREATE TABLE column structure), then run c_parser with your table's .sql schema definition to parse the raw 16 KB B+Tree leaf pages directly into a LOAD DATA INFILE .tsv file:
./c_parser -6f pages-mysql_disk.img/FIL_PAGE_INDEX/0000000000000418.էջ \
  -t create_table_orders.sql > rescued_orders.tsv 2> load_orders.sql


Part 4: Recovering a Deleted or Emptied AWS S3 Bucket (DeleteMarkers, Cloud Support, & Secondary Harvesting)

When someone runs aws s3 rm s3://prod-assets --recursive or deletes an S3 bucket in Terraform/CloudFormation, work through these four layers of recovery in order:

1. Check S3 Versioning & Remove DeleteMarkers (Takes 60 Seconds if Versioning Was Ever Enabled)

Many engineers panic when aws s3 ls s3://prod-bucket returns 0 objects after a recursive delete, not realizing that S3 Versioning (even if currently in "Suspended" state from an earlier compliance setup) does not actually delete objects when s3:DeleteObject is called; it merely places a 0-byte DeleteMarker on top of each object to hide it from standard GET/LIST calls. 1. Run this command immediately to see if historical object versions and DeleteMarkers exist inside the bucket:

aws s3api list-object-versions --bucket prod-bucket --max-item 20
2. If you see a "Versions" array and a "DeleteMarkers" array, 100% of your files are still safe in S3. Restore the entire bucket by batch-deleting the DeleteMarkers:
aws s3api list-object-versions --bucket prod-bucket \
  --հարցում '{Օբյեկտներ՝ Ջնջել Մարկերներ[]։{Key:Key,VersionId:VersionId}}' \
  --output json > delete-markers.json

aws s3api delete-objects --bucket prod-bucket --ջնջել ֆայլը://delete-markers.json

2. What If an entire AWS RDS Instance or S3 Bucket Was Deleted (The AWS Enterprise Support Escalation)?

  • Immediately Re-Create the S3 Bucket Name in the Exact Same AWS Region (Bucket Squatting Defense): S3 bucket names are globally unique across all AWS customers. If you ran aws s3 rb (remove bucket), recreate an empty bucket with the exact same name in your account within 60 seconds so an automated external squatter bot (or broken webhook target) cannot register your production bucket name.
  • Open a Severity 1: Critical / Production System Down Ticket with AWS / GCP / Azure Support Immediately: While AWS publicly states that hard-deleted unversioned S3 objects and RDS instances deleted with --skip-final-snapshot are unrecoverable via customer APIs, for RDS, EBS, Aurora, and Cloud SQL, cloud hypervisor storage subsystems often hold underlying storage snapshots in a delayed garbage-collection queue for 24 to 72 hours. Opening a Phone/Chat Severity-1 Support Case within the first hour (giving the exact ARN, Region, Account ID, and UTC timestamp) occasionally enables internal cloud storage engineers to resurrect a recently deleted RDS volume or Aurora cluster before physical block reclamation completes.

3. The "Secondary Copy Harvest" (Rebuilding an Unversioned Database or S3 Bucket From Surrounding Systems)

If a database table or unversioned S3 bucket is truly gone and unrecoverable from disk, do not assume you are starting from zero. Within the first 2 hours (before TTL caches expire), harvest these six hidden shadow copies that almost every modern SaaS stack generates automatically: 1. CDN Edge Caches (Cloudflare, AWS CloudFront, Fastly, Akamai): Do NOT purge your CDN cache. Your top 60% to 90% most-accessed S3 images, PDFs, JS bundles, and cached API JSON responses are still sitting inside Cloudflare/CloudFront edge PoPs around the world. Write a simple scraper that fetches your known URL list (from your database or Google Search Console / access logs) through the CDN hostname to save every cached file before its Cache-Control: max-age expires. 2. Analytics & Data Warehouses (Snowflake, BigQuery, Redshift, Databricks, Fivetran, Airbyte): Most companies sync their production PostgreSQL/MySQL database into BigQuery or Snowflake every 1 to 6 hours via Fivetran or Airbyte (and BigQuery provides automatic 7-day "Time Travel" via FOR SYSTEM_TIME AS OF). You can export 99% of your relational tables straight out of BigQuery/Snowflake back into PostgreSQL. 3. Search Indexes & Caches (Elasticsearch / OpenSearch, Algolia, Typesense, Redis RDB / AOF): Your Algolia or Elasticsearch index often stores full JSON documents of your products, users, posts, and orders tables, while your Redis server (/var/lib/redis/dump.rdb) holds active session and cached model payloads. 4. Third-Party SaaS Systems of Record (Stripe, Auth0/Clerk, HubSpot/Salesforce, SendGrid/Postmark): - Deleted your users table? Export every user's id, email, name, and created_at from Auth0 / Clerk / Firebase Auth or HubSpot. - Deleted your subscriptions, invoices, or orders table? Pull 100% of your billing history via the Stripe API (/v1/customers, /v1/charges, /v1/subscriptions). - Deleted transactional records? Parse outbound email bodies stored in SendGrid / Postmark / AWS SES / Customer.io activity logs. 5. Developer Laptops, Staging Databases, and CI/CD Test Snapshots: Post in #engineering immediately: "Nobody run git pull or overwrite your local database dumps, check approximately /Downloads and /tmp on every engineer's MacBook for any .sql or .dump file taken in the last 6 months."


Many founders and CTOs assume that "Data breach laws only apply when a hacker steals data, not when an engineer accidentally drops our own database." Under European, UK, and enterprise B2B law, that assumption is false:

Legal / Regulatory Regime Does Accidental Destruction/Loss Count as a "Data Breach"? Mandatory Notification Window & Authority What You Must Communicate to Customers & Regulators
1. EU & UK GDPR (Article 4(12), Article 33, & Article 34) YES: EXPLICITLY: GDPR Article 4(12) defines a "personal data breach" as a breach of security leading to the "accidental or unlawful destruction, loss, alteration..." of personal data. Permanently losing customer records without a backup is a reportable Availability & Integrity Breach. Within 72 HOURS of becoming aware of the permanent loss, notify your lead Data Protection Authority (e.g., UK ICO, Irish DPC, French CNIL, German BfDI) via their online breach portal (unless the lost data is trivial and unlikely to result in a risk to individuals' rights). 1. Nature of the availability/destruction breach and approximate number of affected data subjects and records.
2. Likely consequences for users (e.g., loss of medical records, financial history, or user-generated content).
3. Measures taken to recover data from secondary sources and prevent recurrence (PITR + MFA delete).
2. US HIPAA (45 CFR § 164.402) & Sectoral Rules (SEC / FINRA / FDA) YES: Permanently losing unbacked-up Electronic Protected Health Information (ePHI) violates the HIPAA Security Rule Contingency Plan & Data Backup Standard (45 CFR § 164.308(a)(7)) and can constitute a reportable breach or books-and-records violation (SEC Rule 17a-4). HIPAA: Without unreasonable delay (no later than 60 calendar days to HHS OCR; immediate operational mitigation required).
SEC Public Companies (Form 8-K Item 1.05): Within 4 business days if the cybersecurity/operational incident is determined to be material.
Document your forensic recovery steps (EBS snapshots, WAL/binlog replay, BigQuery/Stripe reconstruction) to prove good-faith mitigation to auditors.
3. Enterprise B2B Customer MSA / SLA / DPA Contracts YES: Almost every B2B SaaS Data Processing Addendum (DPA) and SOC 2 Enterprise MSA requires notifying the customer within 24 to 72 hours of any permanent loss of Customer Data and specifies RPO (Recovery Point Objective) / RTO SLA credits. Per Contract (Typically 24 to 48 Hours) once your forensic team knows the exact time window of unrecoverable rows (e.g., "14 minutes of transactions between 14:02 and 14:16 UTC"). Never send a vague panic email in Minute 5 before you know what was recovered from PITR or Stripe/BigQuery. Wait until your forensic reconstruction completes (within 4 to 24 hours), then send a transparent, specific post-mortem listing the exact affected records (or providing a CSV of reconstructed records for customer verification).

warning Why You Should NEVER Send a Customer "We Lost Everything" Email in the First 2 Hours. In the first 60 minutes after a database drop, terrified engineers frequently tell the CEO "Everything is gone," prompting a premature public apology that destroys customer trust, only for a senior DBA or external consultant to recover 99.8% of the database 4 hours later using pg_dirtyread, undrop-for-innodb, or a forgotten Fivetran/BigQuery warehouse sync. Freeze writes, snapshot the disk, run the forensic recovery protocols first, and quantify the exact gap before issuing external communications.

tip The 3 Commands to Run the Minute Your Database Is Restored (So This Can Never Happen Again). 1. Enable Deletion Protection on every cloud database (aws rds modify-db-instance --db-instance-identifier prod-db --deletion-protection) and set backup_retention_period to 35 days. 2. Enable S3 Versioning + Object Lock (or MFA Delete) on every production bucket (aws s3api put-bucket-versioning --bucket prod-bucket --versioning-configuration Status=Enabled). 3. Color-code your production terminal prompt bright red (or usepg_safeupdatein PostgreSQL /--i-am-a-dummy[--safe-updates] in MySQL CLI) so any DELETE or UPDATE without a WHERE clause is automatically rejected by the database parser.

(For related remote-work engineering and data incidents, see Accidental production database drop, git force-push, secret leak, and incident triage, Accidentally emailed confidential payroll, client PII, or HIPAA spreadsheet, Accidental screen share of confidential salary sheet or password manager on recorded Zoom/Teams, and Emergency remote work security and data privacy.)


Frequently asked questions

If I ran DELETE FROM table (without a WHERE clause) in PostgreSQL and have no backups, is the data really still on the disk?

Yes, provided you stop PostgreSQL's `autovacuum` process and freeze writes immediately. Because PostgreSQL uses Multi-Version Concurrency Control (`MVCC`), a `DELETE` statement does not erase row bytes from the table file on disk; it merely stamps the `xmax` transaction ID header on each tuple to mark it as invisible to future queries. By taking an immediate block snapshot of the disk, disabling `autovacuum`, and loading the open-source `pg_dirtyread` extension on a clone of the volume, you can query the dead tuples directly from the heap pages and insert 100 percent of your deleted rows back into a live table.

How can I recover a dropped MySQL InnoDB table if I never configured database backups?

First, freeze all writes (`SET GLOBAL super_read_only = ON`) and check whether the `mysqld` process still holds an open file descriptor to the unlinked `.ibd` file inside `/proc/$(pidof mysqld)/fd/`. Second, check `/var/lib/mysql/` for binary logs (`binlog.00000X`), which MySQL 8.0+ enables by default in `ROW` format and which can be replayed up to the exact log position before the `DROP` or inverted using `binlog2sql --flashback`. Third, if no binary logs exist, take a raw `dd` image of the unmounted disk and run the open-source `undrop-for-innodb` (`stream_parser` and `c_parser`) toolkit, which scans the raw block device for 16-kilobyte InnoDB B+Tree index pages and reconstructs your rows directly from unallocated disk blocks.

Can I recover an AWS S3 bucket if someone ran aws s3 rm --recursive?

Run `aws s3api list-object-versions --bucket ` immediately to check whether S3 Versioning was enabled (or previously suspended) on the bucket. If Versioning was active, `aws s3 rm` did not actually delete a single file; it merely placed a 0-byte `DeleteMarker` on top of each object, and batch-deleting those `DeleteMarkers` via `aws s3api delete-objects` restores every file in seconds. If Versioning was never turned on, immediately scrape your CDN edge caches (`Cloudflare or AWS CloudFront`) before their cache TTLs expire, and pull replica copies from developer laptops, CI/CD artifacts, and downstream analytics warehouses.

Does accidentally deleting our own production database without a backup require a GDPR data breach notification?

Yes, if the permanent loss involves personal data of EU or UK residents and causes a risk to their rights and freedoms (`for example, losing customer account records, financial history, or medical files`). Under GDPR Article 4(12), a personal data breach is legally defined not just as unauthorized hacker access (`confidentiality breach`), but also as the "accidental or unlawful destruction, loss, or alteration" of personal data (`availability and integrity breach`). If you cannot reconstruct the lost personal data from disk carving, transaction logs, or secondary systems (`such as Stripe or BigQuery`), you must notify your supervisory Data Protection Authority within 72 hours under GDPR Article 33.

Sources and official guidance

  • PostgreSQL Global Development Group (PostgreSQL 17 Documentation: Chapter 28: Continuous Archiving and Point-in-Time Recovery [PITR] & Chapter 73: Database Page Layout): MVCC Heap Tuple Visibility (xmin/xmax), autovacuum Truncation Behavior, and Write-Ahead Log (pg_wal) Replay.
  • Oracle Corporation (MySQL 8.0 / 8.4 Reference Manual: Section 9.5: Point-in-Time [Incremental] Recovery Using the Binary Log): ROW-Based Binary Logging (mysqlbinlog) and InnoDB 16 KB FIL_PAGE_INDEX Tablespace Page Architecture.
  • Amazon Web Services (AWS Well-Architected Reliability Pillar, Amazon RDS Point-in-Time Restore, & Amazon S3 Versioning DeleteMarker Recovery Guide): Automated Backup Transaction Log Retention and Batch DeleteMarker Removal.
  • European Data Protection Board (EDPB Guidelines 9/2022 on Personal Data Breach Notification under GDPR): Mandatory 72-Hour Notification Requirements for "Availability Breaches" Resulting from Accidental Destruction or Loss of Personal Data Without Backups.